6*RTX4090+静音---2022年最强深度学习工作站/集群硬件配置方案
下列是2022年11月30日最新深度学习基准配置报价,新增RTX4090,intel第13代酷睿超频、AMD 霄龙EPYC 7773X处理器等,提供了更完整架构和不同计算规模、不同应用场景的的台式、便携式、机架式、多机集群等应用解决方案
RTX4090可选配置方案和问题
最新上市的显卡RTX4090,其单精度浮点性能指标FP16/FP32: 82.58Tflops, 比上一代RTX3090Ti (FP32 40Tflops),算力高出一倍,与Nvidia A100(FP32:19Tflops,FP16:77.97Tflops)FP16性能相当,但价格便宜很多
因此,做深度学习计算GPU选型,RTX4090是最优选项了
但是RTX4090功耗达到450w,已经无法再用2个8pin供电了,需要3个8pin供电口(3*150w=450w),另外其卡的厚度达到3个PCI挡板,再加上一个PCI挡板空隙散热,
目前可选机箱结构:
(1)机架式---最大4块RTX4090+噪音巨大
由于其机箱宽度在400mm左右,最大装4块,
现在市场上期待RTX4090涡轮散热产品上市,这样RTX4090厚度就只有2个PCI槽宽度,进而,实现8块RTX4090配置方案, 之前产品RTX3090ti(450w功耗),就从来没有见过用热管+涡轮风扇的解决方案,指望RTX4090能用上热管+涡轮风扇,散热难度非常大。 我们曾经对各种各个时代CPU超频计算多年大量测试,CPU功耗达到400W以上(例如:Xeon W-3175X,28核@4.6GHz全核计算),只有用2个360一体式水冷散热模块才能压住,用热管导热方式,其散热效果很差 RTX4090已经达到450W,如果3块RTX4090,功耗3*450W=1350W,全速计算其功耗相当于一个电炉子,做深度学习GPU全速计算,会产生非常巨大热量,双槽并排插法,这么狭窄空间,无法用热管+涡轮的方案快速散热,将来面临机器着火的隐患。 |
(2)常规塔式工作站---最大1块RTX4090+静音
常规塔式工作站标配7个PCI挡板, 只能装1块RTX4090, 装2块需要调整机箱,双卡间距狭窄,散热也有隐患 |
(3)UltraLAB GX650M机箱---最大6块RTX4090,还是静音级
从后背板结构看, GX650M机型提供了一个21+9 的PCI插槽, 保证RTX4090有非常巨大的散热空间, 这是市场上目前唯一能支持最高6块RTX4090, 基于办公静音环境, 保证长时间高速稳定运行。 |
(一)深度学习科研超值型硬件配置方案
计算架构:intel第13代高频处理器(5.7GHz),2块PCIe 4.0 GPU卡
计算特点:1块RTX4090性能超2块RTX3090,
报价日期:2022年11月30日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP32性能指标 |
理想算法 |
价格 |
1.1 |
UltraLAB GA320i 14932-MAT |
intel第13代高频处理器(14核,其中6核4.9Ghz/8核3.8GHz)/32GB DDR5/ RTX3090 /1TB PCIe SSD /6TB SATA/微塔式(2000w) /24"2K图显 |
24GB |
35.58T |
CNN |
¥41,500 |
1.2 |
UltraLAB GA320i 15364-MAT |
intel第13代高频处理器(14核,其中6核5.0Ghz/8核3.8GHz)/64GB DDR5/ RTX4090 /1TB PCIe SSD /8TB SATA/微塔式(2000w) /24"2K图显 |
24GB |
82.58T |
全能型 |
¥49,990 |
1.3 |
UltraLAB GA320i 157128-PCT |
intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.0GHz)/128GB DDR5/ RTX4090 /3.84TB PCIe SSD /16TB SATA/微塔式(2000w) /24"2K图显 |
24GB |
82.58T |
CNN+ RNN 多用途 |
¥63,500 |
1.4 |
UltraLAB GA320i 15364-MA2D |
intel第13代高频处理器(16核,其中8核5.3Ghz/8核4.0GHz)/64GB DDR5/ 2*A5000 24G /2TB PCIe SSD /16TB SATA/微塔式(2000w) /24"2K图显 |
48GB |
55T |
CNN 超4*2080ti |
¥69,990 |
1.5 |
UltraLAB GA320i 157128-PC2E |
intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.2GHz)/128GB DDR5/ 2*RTX A6000 /3.84TB SSD/16TB SATA/微塔式(2000w) /24"2K图显 |
96GB |
80T |
CNN+ RNN 超4块Titan RTX |
¥118,000 |
#p#page_title#e#
(二)深度学习高性能工作站硬件配置方案
---超DGX Station A100、最大7块GPU+静音
AMD计算结构:最大64核CPU+7个PCIe4.0 x16 GPU计算卡
Intel计算结构:最大40核CPU+6块PCIe 4.0 x16 GPU计算卡
报价日期:2022年11月30日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP32性能指标 |
理想算法 |
价格 |
2.1 |
UltraLAB GT420M 12864-MB2T |
Xeon银牌4314处理器(16核2.8Ghz) /64GB DDR4/2*RTX4090 /2TB M2NVME +8TB SATA/双塔式(2000w) /27"-4K图显 |
36GB |
165T |
CNN+RNN |
¥79,990 |
2.2 |
UltraLAB GT420M 128128-MB4T |
Xeon银牌4316处理器(20核2.8Ghz) /128GB DDR4/4*RTX3090三风扇/ 960GB SSD /2TB M2.SSD/16TB SATA /双塔式(2000w)/27"-4K图显 |
96GB |
142T |
高性能多用途 |
¥108,000 |
2.3 |
UltraLAB GT420M 128128-PC4T |
Xeon银牌4316处理器(20核2.8Ghz) /128GB DDR4/ 4*RTX4090 /3.84TB U2.NVME/16TB SATA /双塔式(双2000w)/27"-4K图显 |
96GB |
330T |
CNN+RNN |
¥135,000 |
2.4 |
UltraLAB GR420M 125192-PD6T |
AMD霄龙7773x(64核2.5GHz)/192GB DDR4/6*RTX3090/7.68TB U2.NVME /3块16TB SATA/双塔式(双2000w)/27"-4K图显 |
144G |
213T |
全能+极致 |
¥179,990 |
2.5 |
UltraLAB GR420M 125256-PD6T |
AMD霄龙7773x(64核2.5GHz)/256GB DDR4/6*RTX4090/7.68TB U2.NVME /3块16TB SATA/双塔式(双2000w)/27"-4K图显 |
144GB |
495T |
性能超14块TitanRTX |
¥223,000 |
2.6 |
UltraLAB GT420M 128256-PC5T |
Xeon银牌4314处理器(16核2.8Ghz) /256GB DDR4/4*A5000/960GB SSD /3.84TB U2.SSD/18TB SATA /双塔式(双2000w)/27"-4K图显
|
96GB |
111T |
高性价比多用途 |
¥126,500 |
2.7 |
UltraLAB GT420M 130256-80T4E |
Xeon铂金8358(32核3.0GHz)/256GB DDR4/4*A6000/1.9TB SSD /7.68TB U2.SSD /80TB并行存储/双塔式(双2000w)/27"-4K图显
|
192GB |
160T |
超高性价比海量计算 |
¥269,000 |
2.8 |
UltraLAB GR420M 125512-PE6E |
AMD霄龙7773X(64核2.5GHz)/512GB DDR4/6* A6000/1.9TB SSD /15.36TB U2.SSD /80TB并行存储/双塔式(双2000w)/27"-4K图显 |
288G |
240T |
超DGX Station A100 |
¥365,000 |
#p#page_title#e#
(三) 地球最强GPU超算平台--人工智能工作站配置推荐
---市场唯一支持6块RTX4090(495Tflops)+静音级
计算架构:CPU最大128核,8/10块全速PCIe 4.0 16X,双/三槽GPU卡通吃,最大300T高速存储
计算特点: 6块RTX4090性能超12块3090ti,与6块A100性能一样
报价日期:2022年11月30日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP32性能指标 |
理想算法 |
价格 |
3.1 |
UltraLAB GX650M 228128-PC2T |
2*Xeon银4314(32核2.8GHz) /128GB DDR4/2*RTX4090 /960GB SSD/ 3.84TB PCIeSSD/16TB SATA/双塔式(2000w) /27"-4K图显 |
48GB |
165T |
CNN |
¥99,990 |
3.2 |
UltraLAB GX650M 228192-PC4T |
2*Xeon银4314(32核2.8GHz) /192GB DDR4/4*RTX3090 /960GB SSD/ 3.84TB PCIeSSD/2*16TB SATA/双塔式(双2000w) /27"-4K图显 |
96GB |
142T |
CNN |
¥131,000 |
3.3 |
UltraLAB GX650M 225256-PC6T |
2*Xeon银4316(40核2.8GHz) /256GB DDR4/6*RTX3090/3.84TB PCIeSSD /4*16TB SATA/双塔式(双2000w) /27"-4K图显 |
144GB |
213T |
计算机视觉完美型 |
¥179,990 |
3.4 |
UltraLAB GX650M 233256-PC4T |
2*Xeon金6326(32核3.3GHz) /256GB DDR4/4*RTX4090/960GB SSD/3.84TB PCIeSSD/5*16TB SATA/双塔式(双2000w )/27"-4K图显 |
96GB |
330T |
CNN最快 |
¥173,000 |
3.5 |
UltraLAB GA650M 225256-PD4T |
2*AMD霄龙7773X(128核2.5GHz) /256GB DDR4/4*RTX4090三风扇/960GB SSD/7.68TB PCIeSSD /4*16TB SATA/双塔式(双2000w) /27"-4K图显 |
96GB |
330T |
全能+完美 |
¥223,000 |
3.6 | UltraLAB GA650M 225384-PD6T |
2*AMD霄龙7773X(128核2.5GHz) /256GB DDR4/6*RTX4090三风扇/960GB SSD/7.68TB PCIeSSD /4*16TB SATA/双塔式(双2000w) /27"-4K图显 |
144GB | 495T | 全能+完美 | ¥279,000 |
3.7 |
UltraLAB GX650M 230384-PEAD |
2*Xeon金6342(48核3.0GHz) /384GB DDR4/10*A5000/1.92T SSD/15.36TB PCIeSSD/90TB并行存储/双塔式(双2000w) /27"-4K图显 |
240GB |
277T |
超DGX-2,灭DGX Station A100 |
¥330,000 |
3.8 |
UltraLAB GX650M 2281T-PE6T |
2*Xeon铂金8358(64核2.8GHz)/1TB DDR4 /6*RTX 4090/1.92TB SSD /15.36TB PCIeSSD/72TB并行存储/双塔式(双2000w) /32"-4K图显 |
144GB |
495T |
最强最完美,性能超DGX-2 |
¥315,000 |
3.9 |
UltraLAB GX650M -T1 |
2*Xeon铂金8380(80核3.3GHz)/1TB DDR4 /8*A6000/4TB PCIeSSD /15.36TB PCIeSSD /4*18TB SATA/双塔式(双2000w) /32"-4K图显 |
384GB |
320T |
地球最强超算工作站 |
¥560,000 |
#p#page_title#e#
(四)市场唯一支持4块GPU卡---便携超算工作站配置推荐
硬件架构:配备PCIe 4.0插槽,高频处理器,+最大4块RTX30系列
机器特点:GPU超算移动平台
报价日期:2022年11月30日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP32性能指标 |
理想算法 |
价格 |
4.1 |
UltraLAB PX320G 153128-MB2X |
intel第13代高频处理器(16核, 其中8核5.3Ghz/8核3.8GHz)/ 水冷散热/128GB DDR5/ 2TB M2.SSD /8TB SATA /2*RTX3080Ti(涡轮)/ 17寸高清便携一体(1500w) |
24GB |
68T |
CNN |
¥75,000 |
4.2 |
UltraLAB PX320G 153128-MB2T |
intel第13代高频处理器(16核, 其中8核4.3Ghz/8核3.8GHz) /水冷散热/128GB DDR4/ 2TB M2.SSD /16TB SATA 2*RTX3090(涡轮)/ 17寸高清便携一体(1500w) |
48GB |
71T |
CNN+RNN |
¥89,990 |
4.3 |
UltraLAB PA420G 139128-MB4X |
Xeon 银4316处理器 (20核3.9Ghz)/128GB DDR4 /2TB M2.SSD/16TB SATA /4*RTX3080Ti(涡轮)/ 17寸高清便携一体(2000w) |
48G |
136T |
CNN |
¥105,000 |
4.4 |
UltraLAB PA420G 133192-MB4T |
Xeon 银4316处理器 (20核3.9Ghz)/192GB DDR4 /2TB M2.SSD /16TB SATA/ 4*RTX3090(涡轮) 24GB/ 17寸高清便携一体(2000w) |
96G |
142T |
CNN+ RNN+推理 |
¥136,000 |
4.5 |
UltraLAB PA420G 133192-SC4D |
Xeon 银4316处理器 (20核3.9Ghz)/192GB DDR4 /3.84TB SSD/16TB SATA/ 4*A5000 24GB/ 17寸高清便携一体(2000w) |
192G |
111T |
CNN+RNN+推理 |
¥125,000 |
4.6 |
UltraLAB PA420G 133384-PD4E |
Xeon银4316处理器 (20核3.9Ghz)/256GB DDR4 /7.68TB SSD/16TB SATA /4*A6000 48GB/ 17寸高清便携一体(2000w) |
192G |
160T |
CNN+RNN+推理 |
¥248,000 |
#p#page_title#e#
(五)GPU超算服务器配置推荐-机房专用型
硬件架构:配备PCIe 4.0插槽,高频处理器+工业级水冷散热,+最大8块RTX30系列
机器特点:极致性能深度学习集群、云计算平台
报价日期:2022年07月07日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP32性能指标 |
理想算法 |
价格 |
5.1 |
UltraLAB GA320 15364-MBT |
intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5/1.9TB SSD /8TB SATA RTX4090/4U机架式(2000w)/双口万兆电口 |
24GB |
82Tflops |
CNN |
¥51,000 |
5.2 |
UltraLAB GA320 15364-MB2D |
intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5/1.9TB SSD /8TB SATA/2*A5000 24GB/4U机架式(2000w)/双口万兆电口 |
48GB |
56Tflops |
CNN+RNN |
¥67,000 |
5.3 |
UltraLAB GA310 157128-MB2T |
intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.2GHz)/128GB DDR4/1.9TB SSD /8TB SATA 2*RTX3090(涡轮)/4U机架式(2000w)双口万兆电口 |
48GB |
71Tflops |
CNN+ RNN+ 推理 |
¥81,000 |
5.4 |
UltraLAB GT420 12896-SA4X |
Xeon 银4316(20核2.8Ghz ) /96GB DDR4 /1.9TB SSD /8TB SATA /4*RTX3080Ti(涡轮)/4U机架式(2000w)/双口万兆电口 |
48G |
136T |
CNN |
¥88,500 |
5.5 |
UltraLAB GT420 128192-SA4T |
Xeon 银4316(20核2.8Ghz) /192GB DDR4 /1.9TB SSD /8TB SATA/4*RTX3090(涡轮)/4U机架式(2000w)/双口万兆电口 |
96G |
142T |
CNN+ RNN+ 推理 |
¥123,000 |
5.6 |
UltraLAB GT420 128256-SC4E |
Xeon 银4316(20核2.8Ghz) /256GB DDR4 /3.84TB SSD /8TB SATA /4*A6000/4U机架式(2000w)/双口万兆电口 |
192G |
160T |
CNN+ RNN+ 推理 |
¥198,000 |
5.7 | UltraLAB GX650 228256-SC2A | 2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /3.84TB SSD /8TB SATA /2*A100 40GB/4U机架式(2000w)/双口万兆电口 | 80G |
CUDA FP16: 156Tflops |
推理 | ¥249,990 |
5.8 |
UltraLAB GX658 228128-PC8X |
2*Xeon 银4316(40核3.9Ghz) /128GB DDR4 /960GB SSD+7.68TB PCIeSSD /8*RTX3080Ti (涡轮)/4U机架式(2000w 2+2冗余)/双40GbE光口 |
96G |
273T |
CNN |
¥218,000 |
5.9 |
UltraLAB GX658 228256-PC8T |
2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /960GB SSD+7.68TB PCIeSSD /8*RTX3090(涡轮) /4U机架式(2000w 2+2冗余)/双40GbE光口 |
192G |
285T |
CNN+ RNN+ 推理 |
¥305,000 |
5.10 |
UltraLAB GX658 228512-PD8E |
2*Xeon 银4316(40核2.8Ghz) /512GB DDR4 /960GB SSD+15.36TB PCIeSSD /8*A6000(涡轮) /4U机架式(2000w 2+2冗余)/双40EbE光口 |
384G |
320T |
CNN+ RNN+ 推理 |
¥435,000 |
#p#page_title#e#
(六)支持A100+水冷---人工智能推理超级工作站硬件配置推荐
---逻辑推理超算平台,支持6块A100+水冷静音级
完美计算架构:双xeon3代(最大80核),最大6块全速PCIe 4.0 16X全速 A100+海量存储(最大300T)
性能出众: FP16算力(6块A100)468Tflops
报价日期:2022年11月30日
No |
产品型号 |
主要配置 |
显存 |
CUDA处理器FP16性能指标 |
理想算法 |
价格 |
6.1 |
UltraLAB GX650M 233256-PC2A |
2*Xeon金6326(32核3.3GHz) /256GB DDR4/2*A100 40GB /960GB SSD/ 3.84TB PCIeSSD/56TB并行存储/双塔式(双2000w) /27"-4K图显 |
80GB |
156T |
|
¥295,000 |
6.2 |
UltraLAB GX650M 235384-MC2A |
2*Xeon金6348(56核3.5GHz) /384GB DDR4/2*A100 80GB /960GB SSD/ 3.84TB PCIeSSD/56TB并行存储/双塔式(双2000w) /27"-4K图显 |
160GB |
179T |
|
¥368,000 |
6.3 |
UltraLAB GX650M 235512-PD4A |
2*Xeon铂金8358(64核3.5GHz) /512GB DDR4/4*A100 40GB/1.92TB SSD/7.68TB PCIeSSD/70TB并行存储/双塔式(双2000w) /27"-4K图显 |
160GB |
312T |
|
¥526,000 |
6.4 |
UltraLAB GX650M 2351T-PE4A |
2*Xeon铂金8358(64核3.5GHz) /1TB DDR4/4*A100 80GB/1.92TB SSD /15.36TB PCIeSSD/84TB并行存储/双塔式(双2000w) /27"-4K图显 |
320GB |
312T |
|
¥665,000 |
6.5 |
UltraLAB GX650M 2331T-PF6A |
2*Xeon铂金8368(76核3.3GHz) /1TB DDR4/6*A100 40GB/3.84TB SSD /2*15.36TB PCIeSSD/112TB并行存储/双塔式(双2000w) /27"-4K图显 |
240GB |
468T |
|
¥815,000 |
6.6 | UltraLAB GX650M 2312T-PF6A |
2*Xeon铂金8380(80核3.1GHz) /2TB DDR4/6*A100 80GB/3.84TB SSD /2*15.36TB PCIeSSD/126TB并行存储/双塔式(双2000w) /27"-4K图显 |
480GB | 468T | ¥110万 |
#p#page_title#e#
(七)2022年最强大的深度学习多机集群配置推荐
相关机型:
(1)GPU计算服务器(计算节点)
机型:UltraLAB GX650M(2021年上市的最新机型)
技术特点:
采用intel第3代Xeon可扩展处理器、配备nvidia RTX 40系列GPU计算卡,网口配备56G IB网口,硬盘采用SSD,保证硬件配置计算更强、io带宽更高、整机性能全方位优化,保证多用户多任务神经元完美计算能力。
(2)存储服务器(存储节点)
相关机型:UltraLAB N630A(8盘位)、N630B(16盘位)
技术特点:
CPU 采用 intel Xeon第二代可扩展处理器
高速缓存盘:配备M2.SSD确保数据处理的高速读写(读写3G/s以上)及超低io延迟、
配备并行存储:数据备份安全可靠、最大容量到112TB(8盘位)/240TB(16盘位)
网口:配备双56G光口,另外,整机性能全方位优化
支持远程操作、远程管理,系统管理员和使用者直接在办公室甚至异地进行操作。
方案1 CX650深度学习集群配置推荐
计算节点3个
GPU卡:18块RTX4090(相当于36块RTX3090Ti)
集群FP32单精度浮点算力:1486Tflops
配置方案
NO |
货物名称 |
型号 |
数量 |
单价 |
小计 |
1 |
GPU计算服务器GT420 |
2*Xeon银4314(32核2.8Ghz )/256GB DDR4 /6块RTX4090 24GB /960GB SSD /4U机架式/56G IB光口/无显示器 |
3 |
189000 |
590000 |
2 |
存储服务器N650C |
2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显 |
1 |
86000 |
86000 |
3 |
交换机 |
36个56G IB |
1 |
63000 |
63000 |
4 |
服务器机柜 |
42U,含PDU、托盘 |
1 |
5500 |
5500 |
5 |
KVM |
16口 HDMI KVM切换器 |
1 |
4800 |
4800 |
6 |
集群系统 |
CentOS/Ubuntu、作业调度管理 |
1 |
50000 |
50000 |
7 |
深度学习框架 |
Tensorflow、Pytorch… |
1 |
|
|
|
|
|
|
|
|
合计 |
¥776,300元 |
|
|
方案2 CX650深度学习集群配置推荐
计算节点4个
GPU卡:24块RTX4090(相当于48块RTX3090Ti)
集群单精度fP32浮点算力:1982Tflops
配置方案:
NO |
货物名称 |
型号 |
数量 |
单价 |
小计 |
1 |
GPU计算服务器GT420 |
2*Xeon银4314(32核2.8Ghz )/256GB DDR4 /6块RTX4090 24GB /960GB SSD /4U机架式/56G IB光口/无显示器
|
4 |
189000 |
756000 |
2 |
存储服务器N650C |
2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显 |
1 |
86000 |
86000 |
3 |
交换机 |
36个56G IB |
1 |
63000 |
63000 |
4 |
服务器机柜 |
42U,含PDU、托盘 |
2 |
5500 |
11000 |
5 |
KVM |
16口 HDMI KVM切换器 |
1 |
4800 |
4800 |
6 |
集群系统 |
CentOS/Ubuntu、作业调度管理 |
1 |
50000 |
50000 |
7 |
深度学习框架 |
Tensorflow、Pytorch… |
1 |
|
|
|
|
|
|
|
|
合计 |
¥970,800元 |
|
|
UltraLAB图形工作站供货商:
西安坤隆计算机科技有限公司
国内知名高端定制图形工作站厂家
业务电话:400-705-6800
咨询微信号: