跳到主要内容

NVIDIA H200 vs B200

对比厂商公布的规格与当前可租用库存。

差异仅来自经验证的内存、带宽、功耗、形态、精度、软件与真实库存。

字段NVIDIA H200 SXM 141GBNVIDIA B200 SXM 180GB GPU
制造商NVIDIANVIDIA
精确 SKUH200 SXMB200 SXM
架构HopperBlackwell
代际HopperBlackwell
类别数据中心数据中心
生命周期当前当前
VRAM141 GB180 GB
内存技术HBM3eHBM3e
带宽4,800 GB/s8,000 GB/s
功耗700 W1000 W
接口PCIe Gen5 主机接口HGX 平台
形态SXM · 模块SXM6 · 模块
互连NVLinkNVLink 5
MIG / 分区支持支持
AI 数值精度格式FP64, FP32, TF32, BF16, FP16, FP8, INT8FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
运行时生态cuda, vllm, sglang, tensorrt-llmcuda, vllm, sglang, tensorrt-llm
租赁可用性容量有限仅供参考
月租价格USD 2,345仅供参考

已验证差异

  • NVIDIA B200 SXM 180GB GPU 在本次选择中拥有最大 VRAM。
  • NVIDIA B200 SXM 180GB GPU 拥有最高记录内存带宽。
  • NVIDIA H200 SXM 141GB 的公布功耗最低。

架构差异

经来源验证的事实:NVIDIA H200 SXM 141GB: Hopper / Hopper / SXM · 模块 · NVIDIA B200 SXM 180GB GPU: Blackwell / Blackwell / SXM6 · 模块

VRAM 与内存需求

经来源验证的事实:NVIDIA H200 SXM 141GB: 141 GB / HBM3e / 4,800 GB/s · NVIDIA B200 SXM 180GB GPU: 180 GB / HBM3e / 8,000 GB/s

功耗与散热

经来源验证的事实:NVIDIA H200 SXM 141GB: 700 W / SXM · 模块 · NVIDIA B200 SXM 180GB GPU: 1000 W / SXM6 · 模块

AI 精度支持

经来源验证的事实:NVIDIA H200 SXM 141GB: FP64, FP32, TF32, BF16, FP16, FP8, INT8 · NVIDIA B200 SXM 180GB GPU: FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8

接口与互连

经来源验证的事实:NVIDIA H200 SXM 141GB: PCIe Gen5 主机接口 / NVLink · NVIDIA B200 SXM 180GB GPU: HGX 平台 / NVLink 5

多 GPU 注意事项

大型模型可能需要并行执行或多个节点。确定 GPU 数量前,应核对模型驻留内存、运行环境、互连方式、拓扑结构和容量余量。

模型与工作负载适配

适用性取决于模型版本、精度、运行环境、可用内存和拓扑结构。技术兼容并不代表存在可租用资源。

租赁可用性

经来源验证的事实:NVIDIA H200 SXM 141GB: 容量有限 / USD 2,345 / 月 · NVIDIA B200 SXM 180GB GPU: 仅供参考

官方来源

最近验证: 2026-08-25