比较 GPU
使用同一套价格、库存和规格数据比较 2-4 个公开 GPU。
| GPU |
NVIDIA H100 SXM 80GB |
|---|---|
| 月租 | USD 1,860/月 |
| 小时等价 | ~ USD 2.55/小时 |
| 显存 | 80 GB HBM3 |
| 架构 | Hopper |
| 带宽 | 3,350 GB/s |
| 外形 | SXM module |
| 接口 | PCIe Gen5 x16 host interface |
| TDP | 700 W |
| FP32 | 67 TFLOPS 密集 |
| TF32 | 494.5 TFLOPS 密集 / 989 TFLOPS 稀疏 |
| BF16 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 |
| FP16 | 989.5 TFLOPS 密集 / 1979 TFLOPS 稀疏 |
| FP8 | 1979 TFLOPS 密集 / 3958 TFLOPS 稀疏 |
| INT8 | 1979 TOPS 密集 / 3958 TOPS 稀疏 |
| MIG | 最多 7 个 MIG，每个 10 GB |
| NVLink | 900 GB/s NVLink |
| 可用性 | Available |
| 框架 | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| 模型兼容指南 | 推荐用于量化推理；需要检查上下文和并发 |
| 操作 | 配置并租用 |