GPUs vergleichen
Vergleichen Sie zwei bis vier im FusionPointAI-Katalog gelistete GPUs anhand einheitlicher Preis-, Verfügbarkeits- und Spezifikationsdaten.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| Monatliche Miete | USD 2.345/Monat | USD 1.860/Monat |
| Stundenäquivalent | ~ USD 3/Stunde | ~ USD 3/Stunde |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| Architektur | Hopper | Hopper |
| Bandbreite | 4.800 GB/s | 3.350 GB/s |
| Formfaktor | SXM module | SXM module |
| Schnittstelle | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS dicht | 34 TFLOPS dicht |
| FP64 Tensor | 67 TFLOPS dicht | 67 TFLOPS dicht |
| FP32 | 67 TFLOPS dicht | 67 TFLOPS dicht |
| TF32 | 494.5 TFLOPS dicht / 989 TFLOPS spärlich | 494.5 TFLOPS dicht / 989 TFLOPS spärlich |
| BF16 | 989.5 TFLOPS dicht / 1979 TFLOPS spärlich | 989.5 TFLOPS dicht / 1979 TFLOPS spärlich |
| FP16 | 989.5 TFLOPS dicht / 1979 TFLOPS spärlich | 989.5 TFLOPS dicht / 1979 TFLOPS spärlich |
| FP8 | 1979 TFLOPS dicht / 3958 TFLOPS spärlich | 1979 TFLOPS dicht / 3958 TFLOPS spärlich |
| INT8 | 1979 TOPS dicht / 3958 TOPS spärlich | 1979 TOPS dicht / 3958 TOPS spärlich |
| MIG | Bis zu 7 MIGs @ 18 GB | Bis zu 7 MIGs @ 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| Verfügbarkeit | Begrenzte Kapazität | Verfügbar |
| Frameworks | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| Modellkompatibilität | Für quantisierte Inferenz empfohlen; Kontextlänge und parallele Anfragen prüfen | Für quantisierte Inferenz empfohlen; Kontextlänge und parallele Anfragen prüfen |
| Aktion | Konfigurieren und mieten | Konfigurieren und mieten |