مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA H100 PCIe 80GB |
|---|---|
| الإيجار الشهري | USD 1,579/شهر |
| المقابل بالساعة | ~ USD 2.16/ساعة |
| ذاكرة VRAM | 80 GB HBM2e |
| المعمارية | Hopper |
| عرض النطاق | 2,000 GB/s |
| الشكل | PCIe dual-slot accelerator card |
| الواجهة | PCIe Gen5 x16 |
| TDP | 350 W |
| FP64 | 26 TFLOPS كثيف |
| FP64 Tensor | 51 TFLOPS كثيف |
| FP32 | 51 TFLOPS كثيف |
| TF32 | 378 TFLOPS كثيف / 756 TFLOPS متناثر |
| BF16 | 756.5 TFLOPS كثيف / 1513 TFLOPS متناثر |
| FP16 | 756.5 TFLOPS كثيف / 1513 TFLOPS متناثر |
| FP8 | 1513 TFLOPS كثيف / 3026 TFLOPS متناثر |
| INT8 | 1513 TOPS كثيف / 3026 TOPS متناثر |
| MIG | حتى 7 MIG بسعة 10 GB |
| NVLink | 600 GB/s NVLink Bridge |
| التوافر | سعة محدودة |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | موصى به للاستدلال المكمم؛ راجع السياق والتزامن |
| الإجراء | تهيئة واستئجار |