Сравнить GPU
Сравните 2-4 публичные GPU на основе единых данных цены, инвентаря и характеристик.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| Месячная аренда | USD 2,345/месяц | USD 1,860/месяц |
| Почасовой эквивалент | ~ USD 3.21/час | ~ USD 2.55/час |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| Архитектура | Hopper | Hopper |
| Пропускная способность | 4,800 GB/s | 3,350 GB/s |
| Форм-фактор | SXM module | SXM module |
| Интерфейс | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP32 | 67 TFLOPS плотный режим | 67 TFLOPS плотный режим |
| TF32 | 494.5 TFLOPS плотный режим / 989 TFLOPS разреженный режим | 494.5 TFLOPS плотный режим / 989 TFLOPS разреженный режим |
| BF16 | 989.5 TFLOPS плотный режим / 1979 TFLOPS разреженный режим | 989.5 TFLOPS плотный режим / 1979 TFLOPS разреженный режим |
| FP16 | 989.5 TFLOPS плотный режим / 1979 TFLOPS разреженный режим | 989.5 TFLOPS плотный режим / 1979 TFLOPS разреженный режим |
| FP8 | 1979 TFLOPS плотный режим / 3958 TFLOPS разреженный режим | 1979 TFLOPS плотный режим / 3958 TFLOPS разреженный режим |
| INT8 | 1979 TOPS плотный режим / 3958 TOPS разреженный режим | 1979 TOPS плотный режим / 3958 TOPS разреженный режим |
| MIG | До 7 MIG по 18 ГБ | До 7 MIG по 10 ГБ |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| Доступность | Limited capacity | Available |
| Фреймворки | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| Совместимость моделей | Рекомендуется для квантованного инференса; проверьте контекст и параллельность | Рекомендуется для квантованного инференса; проверьте контекст и параллельность |
| Действие | Настроить и арендовать | Настроить и арендовать |