مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA H200 SXM 141GB |
|---|---|
| الإيجار الشهري | USD 2,345/شهر |
| المقابل بالساعة | ~ USD 3.21/ساعة |
| ذاكرة VRAM | 141 GB HBM3e |
| المعمارية | Hopper |
| عرض النطاق | 4,800 GB/s |
| الشكل | SXM module |
| الواجهة | PCIe Gen5 x16 host interface |
| TDP | 700 W |
| FP32 | 67 TFLOPS كثيف |
| TF32 | 494.5 TFLOPS كثيف / 989 TFLOPS متناثر |
| BF16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP16 | 989.5 TFLOPS كثيف / 1979 TFLOPS متناثر |
| FP8 | 1979 TFLOPS كثيف / 3958 TFLOPS متناثر |
| INT8 | 1979 TOPS كثيف / 3958 TOPS متناثر |
| MIG | حتى 7 MIG بسعة 18 GB |
| NVLink | 900 GB/s NVLink |
| التوافر | Limited capacity |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | موصى به للاستدلال المكمم؛ راجع السياق والتزامن |
| الإجراء | تهيئة واستئجار |