مقارنة وحدات GPU
قارن بين وحدتين وأربع وحدات GPU مدرجة في كتالوج FusionPointAI، استنادًا إلى بيانات موحدة للأسعار والتوافر والمواصفات.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| الإيجار الشهري | USD ٢٬٣٤٥/شهر | USD ١٬٨٦٠/شهر |
| المقابل بالساعة | ~ USD ٣/ساعة | ~ USD ٣/ساعة |
| ذاكرة VRAM | 141 GB HBM3e | 80 GB HBM3 |
| المعمارية | Hopper | Hopper |
| عرض النطاق | ٤٬٨٠٠ GB/s | ٣٬٣٥٠ GB/s |
| الشكل | SXM module | SXM module |
| الواجهة | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS كثيف | 34 TFLOPS كثيف |
| FP64 Tensor | 67 TFLOPS كثيف | 67 TFLOPS كثيف |
| FP32 | 67 TFLOPS كثيف | 67 TFLOPS كثيف |
| TF32 | 494.5 TFLOPS كثيف / 989 TFLOPS متناثر | 494.5 TFLOPS كثيف / 989 TFLOPS متناثر |
| BF16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP8 | 1979 TFLOPS كثيف / 3958 TFLOPS متناثر | 1979 TFLOPS كثيف / 3958 TFLOPS متناثر |
| INT8 | 1979 TOPS كثيف / 3958 TOPS متناثر | 1979 TOPS كثيف / 3958 TOPS متناثر |
| MIG | حتى 7 MIG بسعة 18 GB | حتى 7 MIG بسعة 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| التوافر | سعة محدودة | متاح |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | موصى به للاستدلال المكمم؛ راجع السياق والتزامن | موصى به للاستدلال المكمم؛ راجع السياق والتزامن |
| الإجراء | تهيئة واستئجار | تهيئة واستئجار |