跳到主要内容

NVIDIA · 平台 · 超级芯片

NVIDIA GH200 Grace Hopper Superchip 144GB

GH200 144GB 的精确参考规格与 AI 部署建议,与 FusionPointAI 商业库存分离。

当前 仅供参考
NVIDIA GH200 Grace Hopper Superchip 144GB 的中性技术示意图;不是产品照片
参考示意图;请查阅认证规格表确认精确硬件。 这不是产品照片。

已验证技术规格

制造商NVIDIA
精确 SKUGH200 144GB
产品家族NVIDIA GH200
架构Hopper
代际Grace Hopper
实体类型超级芯片
生命周期当前
发布日期制造商尚未公布此信息。
VRAM144 GB
内存技术HBM3e
内存带宽4,900 GB/s
功耗1000 W
接口NVLink-C2C
形态CPU-GPU · 超级芯片
互连NVLink-C2C
MIG / 分区支持
AI 数值格式支持FP64, FP32, TF32, BF16, FP16, FP8, INT8
软件栈cuda

AI 工作负载适配性

LLM 推理

高内存容量在运行时与拓扑认证后可支持大型检查点和多 GPU 推理。

微调与训练

软件支持、散热条件和内存容量均经确认后,可用于有限规模的微调与开发。

图像、视频与嵌入

FP16 加速可在所列 VRAM 范围内支持常见生成与向量工作负载。

供电与散热

公布功耗 1000 W,需要适配该形态的机箱、气流和供电。

多 GPU 使用

NVLink-C2C 是记录的互连路径;仍需在节点级验证拓扑。

软件生态

cuda

产品历程

nvidia-gh200-144gb @ 583e02e1a19225888a4b4ff7b015fbf84b699449a7555f8d078f8a5f2db39e5b

官方来源

媒体图库

制造商官方来源

https://docs.nvidia.com/dccpu/grace-perf-tuning-guide/index.html

最近验证: 2026-08-24