最多能上几张 GPU?单宽、双宽都支持吗?
4-DW 与 8-DW 机型最多 8 块 PCIe x16 GPU,单宽最高 150 W、双宽最高 600 W(600 W 需配 9005 处理器);SXM5 机型为 4 卡 HGX H100/H200,700 W 每卡并配 Neptune 液冷。官方还要求整机安装的 GPU 必须为同一型号。
按具体机型查阅配置、扩展、部署与维护问题;选配结论请结合平台版本与实际部件清单核对。
4-DW 与 8-DW 机型最多 8 块 PCIe x16 GPU,单宽最高 150 W、双宽最高 600 W(600 W 需配 9005 处理器);SXM5 机型为 4 卡 HGX H100/H200,700 W 每卡并配 Neptune 液冷。官方还要求整机安装的 GPU 必须为同一型号。
官方规则很明确:所有 600W GPU 配置都必须搭配第五代 AMD EPYC(9005)处理器和 C5WW 高性能风扇。标准风扇只能用于单宽卡或 600W 以下的双宽卡,因此 400W TDP 的 9004 平台配 600W 卡不被支持。
官方写明支持 NVIDIA NVLink,GPU 间直连带宽最高 900 GB/s,双宽与单宽 PCIe GPU 配置都支持,可合并多卡显存以支撑更大 batch;同时支持 GPU Direct RDMA(网卡直连 GPU)和 GPU Direct Storage(NVMe 直连 GPU)。SXM5 机型通过 HGX 板实现 NVLink 互联。
最大 14 个 PCIe 槽加 1 个 OCP 槽(受可用 PCIe 通道限制):8 个前置 x16 给双宽 GPU、2 个前置 I/O x16、后置 riser1 两个 x16、riser2 两个 x16,再加 OCP(Gen4 上限)。实际可用数量取决于所选 GPU 与盘位配置。