Comparer les GPU
Comparez deux à quatre modèles de GPU répertoriés dans le catalogue FusionPointAI à partir des mêmes données de prix, de disponibilité et de caractéristiques techniques.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| Location mensuelle | USD 2 345/mois | USD 1 860/mois |
| Équivalent horaire | ~ USD 3/heure | ~ USD 3/heure |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| Architecture | Hopper | Hopper |
| Bande passante | 4 800 GB/s | 3 350 GB/s |
| Format | SXM module | SXM module |
| Interface | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS mode dense | 34 TFLOPS mode dense |
| FP64 Tensor | 67 TFLOPS mode dense | 67 TFLOPS mode dense |
| FP32 | 67 TFLOPS mode dense | 67 TFLOPS mode dense |
| TF32 | 494.5 TFLOPS mode dense / 989 TFLOPS avec sparsité | 494.5 TFLOPS mode dense / 989 TFLOPS avec sparsité |
| BF16 | 989.5 TFLOPS mode dense / 1979 TFLOPS avec sparsité | 989.5 TFLOPS mode dense / 1979 TFLOPS avec sparsité |
| FP16 | 989.5 TFLOPS mode dense / 1979 TFLOPS avec sparsité | 989.5 TFLOPS mode dense / 1979 TFLOPS avec sparsité |
| FP8 | 1979 TFLOPS mode dense / 3958 TFLOPS avec sparsité | 1979 TFLOPS mode dense / 3958 TFLOPS avec sparsité |
| INT8 | 1979 TOPS mode dense / 3958 TOPS avec sparsité | 1979 TOPS mode dense / 3958 TOPS avec sparsité |
| MIG | Jusqu’à 7 MIG @ 18 Go | Jusqu’à 7 MIG @ 10 Go |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| Disponibilité | Capacité limitée | Disponible |
| Frameworks | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| Guide de compatibilité modèle | Recommandé pour inférence quantifiée ; vérifier contexte et concurrence | Recommandé pour inférence quantifiée ; vérifier contexte et concurrence |
| Action | Configurer et louer | Configurer et louer |