ERNIE-4.5-21B-A3B-Paddle
baidu/ERNIE-4.5-21B-A3B-Paddle
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: Fastdeploy
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
ERNIE · عام · ERNIE 4.5
ERNIE 4.5 21B-A3B: المواصفات ومتطلبات GPU والاستضافة والنشر
ERNIE 4.5 21B-A3B إصدار حالي ضمن مسار عام في عائلة ERNIE، موثق من المراجعة الرسمية.
إجمالي المعلمات٢١٫٠B
المعلمات النشطة٣٫٠B
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحالي · حالي
البنيةErnie4_5_MoeForCausalLM
الوسائطنص
الرخصةapache-2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2025-06-28
البنية ونقاط القوة والاستخدامات
ERNIE 4.5 21B-A3B إصدار رسمي من Baidu قابل للاستضافة الذاتية ضمن مسار ERNIE عام. يستخدم Ernie4_5_MoeForCausalLM مع 21B / 3B MoE وسياق موثق قدره 131,072 الرمز.
يستخدم ERNIE 4.5 21B-A3B بنية Ernie4_5_MoeForCausalLM مع 21B / 3B MoE. يسجل الملف 28 طبقة وعرضا مخفيا 2560 و20 رأس انتباه حيث تنشر هذه القيم.
بنية Ernie4_5_MoeForCausalLM موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة40.29 GB
ذاكرة KV المؤقتة0.44 GB
تكلفة بيئة التشغيل12.05 GB
الإجمالي مع هامش الأمان65.44 GB
أفضل قيمة موصى بها
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
75.56 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرأقل خيار قابل للتشغيل تكلفة
3× NVIDIA L4 24GB
72 GB إجمالي VRAM · pcie
6.56 GB هامش · متاح
USD ٧٥٠ / شهرأعلى أداء
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
75.56 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 21 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر ERNIE 4.5 21B-A3B بموجب apache-2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
البدائل والمتغيرات من الجيل نفسه
ERNIE 4.5 300B-A47B
مقارنات مختارة
التسلسل الزمني للإصدار
baidu/ernie/ernie-4-5-21b-a3b
تفاصيل المصدر
مراجعة المصدر: 55376fc68504404a927791015701e9c8b79b9a55d204aa833581c936fab6aeca
الأسئلة الشائعة
كم يحتاج ERNIE 4.5 21B-A3B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم ERNIE 4.5 21B-A3B؟
توجد أدلة رسمية موثقة لبيئات fastdeploy.
هل يمكن استخدام ERNIE 4.5 21B-A3B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط apache-2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-09-03