跳到主要内容

NVIDIA · 平台 · 计算节点

NVIDIA GH200 NVL2 288GB

GH200 NVL2 的精确参考规格与 AI 部署建议,与 FusionPointAI 商业库存分离。

显存288 GB
内存技术HBM3e
形态双超级芯片 · 节点
接口NVLink
功耗暂无数据
当前 仅供参考

规格参数

字段值
制造商NVIDIA
精确 SKUGH200 NVL2
产品家族NVIDIA GH200
架构Hopper
代际Grace Hopper
实体类型计算节点
生命周期当前
发布日期暂无数据
显存288 GB
内存技术HBM3e
内存带宽9,800 GB/s
功耗暂无数据
接口NVLink
形态双超级芯片 · 节点
互连NVLink
MIG / 分区支持
AI 数值格式支持FP64, FP32, TF32, BF16, FP16, FP8, INT8
软件栈cuda

AI 工作负载适配性

LLM 推理

高内存容量在运行时与拓扑认证后可支持大型检查点和多 GPU 推理。

微调与训练

软件支持、散热条件和内存容量均经确认后,可用于有限规模的微调与开发。

图像、视频与嵌入

FP16 加速可在所列 VRAM 范围内支持常见生成与向量工作负载。

供电与散热

制造商未公布可直接比较的板卡功耗。

多 GPU 使用

NVLink 是记录的互连路径;仍需在节点级验证拓扑。

软件生态

cuda

产品历程

nvidia-gh200-nvl2-288gb

来源详情

官方来源

来源修订版本: 2ff7401bcb8c94942d36a9276f68c4d9ab76917abde0d5dcaa6061546f2f4a31