Llama-3.1-405B-Instruct
meta-llama/Llama-3.1-405B-Instruct
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: Transformers
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
Meta Llama · عام · Llama 3.1
Llama 3.1 405B: المواصفات ومتطلبات GPU والاستضافة والنشر
Llama 3.1 405B إصدار حديث ضمن مسار عام في عائلة Meta Llama، موثق من المراجعة الرسمية.
إجمالي المعلمات٤٠٥٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحديث · حديث
البنيةDense Transformer
الوسائطنص
الرخصةرخصة مجتمع Llama 3.1
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح بشروط
تاريخ الإصدار2024-07-16
البنية ونقاط القوة والاستخدامات
Llama 3.1 405B إصدار رسمي من Meta قابل للاستضافة الذاتية ضمن مسار Meta Llama عام. يستخدم Dense Transformer مع 405B وسياق موثق قدره 131,072 الرمز.
يستخدم Llama 3.1 405B بنية Dense Transformer مع 405B. يسجل الملف 64 طبقة وعرضا مخفيا 8192 و64 رأس انتباه حيث تنشر هذه القيم.
بنية Dense Transformer موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة777 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل196.86 GB
الإجمالي مع هامش الأمان1210.07 GB
تحجيم مرجعي متوافق تقنيا
لا ينجح أي مخزون حالي لدى FusionPointAI في جميع اختبارات بيئة التشغيل والبنية والطوبولوجيا والذاكرة لهذا نقطة التحقق. استخدم أداة التقدير للعتاد المتوافق عالميا.
الرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 405 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Llama 3.1 405B بموجب رخصة مجتمع Llama 3.1، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح بشروط. يخضع الاستخدام التجاري لشروط. راجع الشروط الرسمية المرتبطة قبل النشر.
البدائل والمتغيرات من الجيل نفسه
Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E
التسلسل الزمني للإصدار
meta/llama/llama-3-1-405b @ ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83
الأسئلة الشائعة
كم يحتاج Llama 3.1 405B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Llama 3.1 405B؟
توجد أدلة رسمية موثقة لبيئات transformers.
هل يمكن استخدام Llama 3.1 405B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح بشروط. راجع شروط رخصة مجتمع Llama 3.1 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26