NVIDIA · 平台 · 机架系统
NVIDIA GB300 NVL72
GB300 NVL72 的精确参考规格与 AI 部署建议,与 FusionPointAI 商业库存分离。
显存20000 GB
内存技术HBM3e
形态机架级 · 72 GPU · 平台
接口MGX NVL72
功耗暂无数据
当前
仅供参考
技术示意图
规格参数
| 字段 | 值 |
|---|---|
| 制造商 | NVIDIA |
| 精确 SKU | GB300 NVL72 |
| 产品家族 | NVIDIA GB300 |
| 架构 | Blackwell Ultra |
| 代际 | Blackwell Ultra |
| 实体类型 | 机架系统 |
| 生命周期 | 当前 |
| 发布日期 | 暂无数据 |
| 显存 | 20000 GB |
| 内存技术 | HBM3e |
| 内存带宽 | 暂无数据 |
| 功耗 | 暂无数据 |
| 接口 | MGX NVL72 |
| 形态 | 机架级 · 72 GPU · 平台 |
| 互连 | NVLink 5 |
| MIG / 分区 | 不支持 |
| AI 数值格式支持 | FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8 |
| 软件栈 | cuda, vllm, sglang, tensorrt-llm |
AI 工作负载适配性
LLM 推理
高内存容量在运行时与拓扑认证后可支持大型检查点和多 GPU 推理。
微调与训练
软件支持、散热条件和内存容量均经确认后,可用于有限规模的微调与开发。
图像、视频与嵌入
FP16 加速可在所列 VRAM 范围内支持常见生成与向量工作负载。
供电与散热
制造商未公布可直接比较的板卡功耗。
多 GPU 使用
NVLink 5 是记录的互连路径;仍需在节点级验证拓扑。
软件生态
cuda, vllm, sglang, tensorrt-llm
产品历程
技术示意图
这不是产品照片。
相关型号
制造商官方来源
https://www.nvidia.com/en-us/data-center/products/
最近验证: 2026-08-24