internlm3-8b-instruct
internlm/internlm3-8b-instruct
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: vLLM Transformers
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
InternLM · عام · InternLM3
InternLM3 8B: المواصفات ومتطلبات GPU والاستضافة والنشر
InternLM3 8B إصدار قديم ضمن مسار عام في عائلة InternLM، موثق من المراجعة الرسمية.
إجمالي المعلمات٨٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارقديم · قديم
البنيةDense Transformer
الوسائطنص
الرخصةرخصة Apache 2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2025-01-13
البنية ونقاط القوة والاستخدامات
InternLM3 8B إصدار رسمي من Shanghai AI Laboratory قابل للاستضافة الذاتية ضمن مسار InternLM عام. يستخدم Dense Transformer مع 8B وسياق موثق قدره 131,072 الرمز.
يستخدم InternLM3 8B بنية Dense Transformer مع 8B. يسجل الملف 64 طبقة وعرضا مخفيا 8192 و64 رأس انتباه حيث تنشر هذه القيم.
بنية Dense Transformer موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة15.35 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل7.84 GB
الإجمالي مع هامش الأمان31.24 GB
أفضل قيمة موصى بها
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
109.76 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرأقل خيار قابل للتشغيل تكلفة
2× NVIDIA L4 24GB
48 GB إجمالي VRAM · pcie
16.76 GB هامش · متاح
USD ٥٠٠ / شهرأعلى أداء
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
109.76 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 8 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر InternLM3 8B بموجب رخصة Apache 2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
التسلسل الزمني للإصدار
internlm/internlm/internlm3-8b
تفاصيل المصدر
مراجعة المصدر: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6
الأسئلة الشائعة
كم يحتاج InternLM3 8B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم InternLM3 8B؟
توجد أدلة رسمية موثقة لبيئات vllm, transformers.
هل يمكن استخدام InternLM3 8B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط رخصة Apache 2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26