مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA L4 24GB |
|---|---|
| الإيجار الشهري | USD 250/شهر |
| المقابل بالساعة | ~ USD 0.34/ساعة |
| ذاكرة VRAM | 24 GB GDDR6 |
| المعمارية | Ada Lovelace |
| عرض النطاق | 300 GB/s |
| الشكل | PCIe low-profile accelerator card |
| الواجهة | PCIe Gen4 x16 |
| TDP | 72 W |
| FP64 | غير مدرج |
| FP64 Tensor | غير مدرج |
| FP32 | 30.3 TFLOPS كثيف |
| TF32 | 60 TFLOPS كثيف / 120 TFLOPS متناثر |
| BF16 | 121 TFLOPS كثيف / 242 TFLOPS متناثر |
| FP16 | 121 TFLOPS كثيف / 242 TFLOPS متناثر |
| FP8 | 242.5 TFLOPS كثيف / 485 TFLOPS متناثر |
| INT8 | 242.5 TOPS كثيف / 485 TOPS متناثر |
| MIG | غير مدعوم |
| NVLink | غير مدعوم |
| التوافر | متاح |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | غالبًا يحتاج إلى عدة وحدات GPU أو تكميم أقوى |
| الإجراء | تهيئة واستئجار |