granite-4.2-30b
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: SGLang Transformers vLLM
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
IBM Granite · عام · Granite 4.2
Granite 4.2 30B: المواصفات ومتطلبات GPU والاستضافة والنشر
Granite 4.2 30B إصدار حالي ضمن مسار عام في عائلة IBM Granite، موثق من المراجعة الرسمية.
إجمالي المعلمات٣٠٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحالي · حالي
البنيةGraniteForCausalLM
الوسائطنص
الرخصةرخصة Apache 2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2026-08-25
البنية ونقاط القوة والاستخدامات
Granite 4.2 30B إصدار رسمي من IBM قابل للاستضافة الذاتية ضمن مسار IBM Granite عام. يستخدم GraniteForCausalLM مع 30B وسياق موثق قدره 131,072 الرمز.
يستخدم Granite 4.2 30B بنية GraniteForCausalLM مع 30B. يسجل الملف 64 طبقة وعرضا مخفيا 4096 و32 رأس انتباه حيث تنشر هذه القيم.
بنية GraniteForCausalLM موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة57.56 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل15.44 GB
الإجمالي مع هامش الأمان92.99 GB
أفضل قيمة موصى بها
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
67.01 GB هامش · متاح
USD ١٬٨٣٠ / شهرأقل خيار قابل للتشغيل تكلفة
4× NVIDIA L4 24GB
96 GB إجمالي VRAM · pcie
3.01 GB هامش · متاح
USD ١٬٠٠٠ / شهرأعلى أداء
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
67.01 GB هامش · متاح
USD ١٬٨٣٠ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 30 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Granite 4.2 30B بموجب رخصة Apache 2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
البدائل والمتغيرات من الجيل نفسه
Granite 4.2 8B, Granite 4.2 3B, Granite 4.1 30B
التسلسل الزمني للإصدار
ibm/granite/granite-4-2-30b
تفاصيل المصدر
مراجعة المصدر: 37162f41301604396463c91856e5c7bdfaf69aaab7a36920fee97fedd14fa694
الأسئلة الشائعة
كم يحتاج Granite 4.2 30B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Granite 4.2 30B؟
توجد أدلة رسمية موثقة لبيئات transformers, vllm, sglang.
هل يمكن استخدام Granite 4.2 30B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط رخصة Apache 2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26