مقارنة وحدات GPU
قارن 2-4 وحدات GPU عامة باستخدام نفس بيانات السعر والمخزون والمواصفات.
| GPU |
NVIDIA L40S 48GB |
|---|---|
| الإيجار الشهري | USD 506/شهر |
| المقابل بالساعة | ~ USD 0.69/ساعة |
| ذاكرة VRAM | 48 GB GDDR6 ECC |
| المعمارية | Ada Lovelace |
| عرض النطاق | 864 GB/s |
| الشكل | PCIe dual-slot accelerator card |
| الواجهة | PCIe Gen4 x16 |
| TDP | 350 W |
| FP64 | غير مدرج |
| FP64 Tensor | غير مدرج |
| FP32 | 91.6 TFLOPS كثيف |
| TF32 | 183 TFLOPS كثيف / 366 TFLOPS متناثر |
| BF16 | 362.05 TFLOPS كثيف / 733 TFLOPS متناثر |
| FP16 | 362.05 TFLOPS كثيف / 733 TFLOPS متناثر |
| FP8 | 733 TFLOPS كثيف / 1466 TFLOPS متناثر |
| INT8 | 733 TOPS كثيف / 1466 TOPS متناثر |
| MIG | غير مدعوم |
| NVLink | غير مدعوم |
| التوافر | متاح |
| الأطر | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| إرشادات توافق النموذج | غالبًا يحتاج إلى عدة وحدات GPU أو تكميم أقوى |
| الإجراء | تهيئة واستئجار |