GPU 8 个 NVIDIA H100 Tensor Core GPU
GPU 显存共 640GB
性能32 petaFLOPS FP8
NVIDIA®
NVSwitch™
4x
系统功耗最高 10.2kW
CPU 双路 x86
系统内存2TB
网络4 个 OSFP 端口,提供 8 个单端口
NVIDIA ConnectX-7 网卡
400Gb/s 的 InfiniBand/ 以太网
2 个双端口 NVIDIA BlueField-3
DPU VPI
1 个 400Gb/s 的 InfiniBand/
以太网网卡
1 个 200Gb/s 的 InfiniBand/
以太网网卡
网络管理RJ45 接口 10Gb/s 板载网卡
50Gb/s 的以太网可选网卡
RJ45 接口主机基板管理控制器
(BMC)
2 个 NVIDIA BlueField-3 DPU BMC
(均为 RJ45 接口)
存储操作系统:2 块 1.9TB NVMe M.2
硬盘
内部存储:8 块 3.84TB NVMe U.2
硬盘
系统软件DGX H100 系统预安装 DGX 操作系统,
该操作系统基于 Ubuntu Linux,包含
DGX 软件堆栈(所有必要软件包和驱
动均针对 DGX 优化)。
客户可以选择单独安装 Ubuntu Linux
或 Red Hat Enterprise Linux 以及必
要的 DGX 软件堆栈。