granite-4.2-8b
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: SGLang Transformers vLLM
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
IBM Granite · عام · Granite 4.2
Granite 4.2 8B: المواصفات ومتطلبات GPU والاستضافة والنشر
Granite 4.2 8B إصدار حالي ضمن مسار عام في عائلة IBM Granite، موثق من المراجعة الرسمية.
إجمالي المعلمات٨٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحالي · حالي
البنيةGraniteForCausalLM
الوسائطنص
الرخصةرخصة Apache 2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2026-08-25
البنية ونقاط القوة والاستخدامات
Granite 4.2 8B إصدار رسمي من IBM قابل للاستضافة الذاتية ضمن مسار IBM Granite عام. يستخدم GraniteForCausalLM مع 8B وسياق موثق قدره 131,072 الرمز.
يستخدم Granite 4.2 8B بنية GraniteForCausalLM مع 8B. يسجل الملف 40 طبقة وعرضا مخفيا 4096 و32 رأس انتباه حيث تنشر هذه القيم.
بنية GraniteForCausalLM موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة15.35 GB
ذاكرة KV المؤقتة1.25 GB
تكلفة بيئة التشغيل7.71 GB
الإجمالي مع هامش الأمان30.14 GB
أفضل قيمة موصى بها
1× NVIDIA A100 SXM 80GB
80 GB إجمالي VRAM · nvlink
49.86 GB هامش · متاح
USD ٩١٥ / شهرأقل خيار قابل للتشغيل تكلفة
2× NVIDIA L4 24GB
48 GB إجمالي VRAM · pcie
17.86 GB هامش · متاح
USD ٥٠٠ / شهرأعلى أداء
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
110.86 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 8 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Granite 4.2 8B بموجب رخصة Apache 2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
البدائل والمتغيرات من الجيل نفسه
Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B
التسلسل الزمني للإصدار
ibm/granite/granite-4-2-8b
تفاصيل المصدر
مراجعة المصدر: cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78
الأسئلة الشائعة
كم يحتاج Granite 4.2 8B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Granite 4.2 8B؟
توجد أدلة رسمية موثقة لبيئات transformers, vllm, sglang.
هل يمكن استخدام Granite 4.2 8B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط رخصة Apache 2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26