NVIDIA · مركز البيانات · بطاقة تسريع
NVIDIA A40 48GB
مواصفات A40 المرجعية الدقيقة وإرشادات نشر الذكاء الاصطناعي، منفصلة عن مخزون FusionPointAI التجاري.
الجيل السابق
مرجعي فقط
المواصفات التقنية الموثقة
| الشركة المصنعة | NVIDIA |
|---|---|
| SKU الدقيق | A40 |
| عائلة المنتج | NVIDIA A40 |
| البنية | Ampere |
| الجيل | Ampere لمراكز البيانات |
| نوع الكيان | بطاقة تسريع |
| دورة الحياة | الجيل السابق |
| تاريخ الإطلاق | لم تُعلن الشركة المصنعة هذه المعلومة. |
| VRAM | 48 GB |
| تقنية الذاكرة | GDDR6 ECC |
| عرض نطاق الذاكرة | ٦٩٦ GB/s |
| الطاقة | 300 W |
| الواجهة | PCIe Gen4 x16 |
| عامل الشكل | فتحتان · PCIe · مسرّع |
| الربط | NVLink |
| MIG / التقسيم | غير مدعوم |
| دعم صيغ الدقة الحسابية | FP64, FP32, TF32, BF16, FP16, INT8, INT4 |
| حزمة البرمجيات | cuda, vllm, sglang, tensorrt-llm |
ملاءمة أحمال الذكاء الاصطناعي
استدلال LLM
أنسب للcheckpoints الأصغر أو النماذج المضغوطة أو التهيئات الموزعة.
الضبط والتدريب
صُممت للأحمال التي تتطلب تشغيل المسرّعات لفترات طويلة؛ وتعتمد ملاءمتها للتدريب على الربط ودقة الحسابات وطوبولوجيا المجموعة.
الصور والفيديو والتضمينات
يدعم تسريع FP16 الأحمال التوليدية والمتجهية ضمن VRAM المدرجة.
الطاقة والتبريد
تتطلب الطاقة المنشورة 300 W هيكلا وتدفق هواء ومصدر طاقة مناسبين.
استخدام وحدات GPU متعددة
NVLink هو مسار الربط المسجل؛ يجب التحقق من طوبولوجيا العقدة.
منظومة البرمجيات
cuda, vllm, sglang, tensorrt-llm