مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA A100 SXM 80GB |
|---|---|
| الإيجار الشهري | USD 915/شهر |
| المقابل بالساعة | ~ USD 1.25/ساعة |
| ذاكرة VRAM | 80 GB HBM2e |
| المعمارية | Ampere |
| عرض النطاق | 2,039 GB/s |
| الشكل | SXM module |
| الواجهة | PCIe Gen4 x16 host interface |
| TDP | 400 W |
| FP64 | 9.7 TFLOPS كثيف |
| FP64 Tensor | 19.5 TFLOPS كثيف |
| FP32 | 19.5 TFLOPS كثيف |
| TF32 | 156 TFLOPS كثيف / 312 TFLOPS متناثر |
| BF16 | 312 TFLOPS كثيف / 624 TFLOPS متناثر |
| FP16 | 312 TFLOPS كثيف / 624 TFLOPS متناثر |
| FP8 | غير مدرج |
| INT8 | 624 TOPS كثيف / 1248 TOPS متناثر |
| MIG | حتى 7 MIG بسعة 10 GB |
| NVLink | 600 GB/s NVLink |
| التوافر | متاح |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | موصى به للاستدلال المكمم؛ راجع السياق والتزامن |
| الإجراء | تهيئة واستئجار |