比较 GPU
比较 FusionPointAI 目录中的 2 至 4 款 GPU，并使用统一的价格、库存和规格数据。
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| 月租 | USD 2,345/月 | USD 1,860/月 |
| 小时等价 | ~ USD 3/小时 | ~ USD 3/小时 |
| 显存 | 141 GB HBM3e | 80 GB HBM3 |
| 架构 | Hopper | Hopper |
| 带宽 | 4,800 GB/s | 3,350 GB/s |
| 外形 | SXM module | SXM module |
| 接口 | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS 密集 | 34 TFLOPS 密集 |
| FP64 Tensor | 67 TFLOPS 密集 | 67 TFLOPS 密集 |
| FP32 | 67 TFLOPS 密集 | 67 TFLOPS 密集 |
| TF32 | 494.5 TFLOPS 密集 / 989 TFLOPS 稀疏 | 494.5 TFLOPS 密集 / 989 TFLOPS 稀疏 |
| BF16 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 |
| FP16 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 |
| FP8 | 1979 TFLOPS 密集 / 3958 TFLOPS 稀疏 | 1979 TFLOPS 密集 / 3958 TFLOPS 稀疏 |
| INT8 | 1979 TOPS 密集 / 3958 TOPS 稀疏 | 1979 TOPS 密集 / 3958 TOPS 稀疏 |
| MIG | 最多 7 个 MIG，每个 18 GB | 最多 7 个 MIG，每个 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| 可用性 | 容量有限 | 可用 |
| 框架 | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| 模型兼容指南 | 推荐用于量化推理；需要检查上下文和并发 | 推荐用于量化推理；需要检查上下文和并发 |
| 操作 | 配置并租用 | 配置并租用 |