GPU तुलना
FusionPointAI कैटलॉग में सूचीबद्ध 2 से 4 GPU विकल्पों की तुलना समान मूल्य, उपलब्धता और तकनीकी विनिर्देशों के आधार पर करें।
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| मासिक किराया | USD २,३४५/माह | USD १,८६०/माह |
| प्रति घंटा समतुल्य | ~ USD ३/घंटा | ~ USD ३/घंटा |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| आर्किटेक्चर | Hopper | Hopper |
| बैंडविड्थ | ४,८०० GB/s | ३,३५० GB/s |
| फॉर्म फैक्टर | SXM module | SXM module |
| इंटरफ़ेस | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS घना | 34 TFLOPS घना |
| FP64 Tensor | 67 TFLOPS घना | 67 TFLOPS घना |
| FP32 | 67 TFLOPS घना | 67 TFLOPS घना |
| TF32 | 494.5 TFLOPS घना / 989 TFLOPS स्पार्स | 494.5 TFLOPS घना / 989 TFLOPS स्पार्स |
| BF16 | 989.5 TFLOPS घना / 1979 TFLOPS स्पार्स | 989.5 TFLOPS घना / 1979 TFLOPS स्पार्स |
| FP16 | 989.5 TFLOPS घना / 1979 TFLOPS स्पार्स | 989.5 TFLOPS घना / 1979 TFLOPS स्पार्स |
| FP8 | 1979 TFLOPS घना / 3958 TFLOPS स्पार्स | 1979 TFLOPS घना / 3958 TFLOPS स्पार्स |
| INT8 | 1979 TOPS घना / 3958 TOPS स्पार्स | 1979 TOPS घना / 3958 TOPS स्पार्स |
| MIG | 7 MIG तक @ 18 GB | 7 MIG तक @ 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| उपलब्धता | सीमित क्षमता | उपलब्ध |
| फ्रेमवर्क | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| मॉडल संगतता मार्गदर्शन | quantised inference के लिए अनुशंसित; context और concurrency की समीक्षा करें | quantised inference के लिए अनुशंसित; context और concurrency की समीक्षा करें |
| कार्रवाई | कॉन्फ़िगर और किराये पर लें | कॉन्फ़िगर और किराये पर लें |