مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| الإيجار الشهري | USD 2,345/شهر | USD 1,860/شهر |
| المقابل بالساعة | ~ USD 3.21/ساعة | ~ USD 2.55/ساعة |
| ذاكرة VRAM | 141 GB HBM3e | 80 GB HBM3 |
| المعمارية | Hopper | Hopper |
| عرض النطاق | 4,800 GB/s | 3,350 GB/s |
| الشكل | SXM module | SXM module |
| الواجهة | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP32 | 67 TFLOPS كثيف | 67 TFLOPS كثيف |
| TF32 | 494.5 TFLOPS كثيف / 989 TFLOPS متناثر | 494.5 TFLOPS كثيف / 989 TFLOPS متناثر |
| BF16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP8 | 1979 TFLOPS كثيف / 3958 TFLOPS متناثر | 1979 TFLOPS كثيف / 3958 TFLOPS متناثر |
| INT8 | 1979 TOPS كثيف / 3958 TOPS متناثر | 1979 TOPS كثيف / 3958 TOPS متناثر |
| MIG | حتى 7 MIG بسعة 18 GB | حتى 7 MIG بسعة 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| التوافر | Limited capacity | Available |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | موصى به للاستدلال المكمم؛ راجع السياق والتزامن | موصى به للاستدلال المكمم؛ راجع السياق والتزامن |
| الإجراء | تهيئة واستئجار | تهيئة واستئجار |