granite-3.3-8b-instruct
ibm-granite/granite-3.3-8b-instruct
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: Transformers
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
IBM Granite · عام · Granite 3.3
Granite 3.3 8B: المواصفات ومتطلبات GPU والاستضافة والنشر
Granite 3.3 8B إصدار سابق ضمن مسار عام في عائلة IBM Granite، موثق من المراجعة الرسمية.
إجمالي المعلمات٨٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارسابق · سابق
البنيةDense Transformer
الوسائطنص
الرخصةرخصة Apache 2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2025-04-09
البنية ونقاط القوة والاستخدامات
Granite 3.3 8B إصدار رسمي من IBM قابل للاستضافة الذاتية ضمن مسار IBM Granite عام. يستخدم Dense Transformer مع 8B وسياق موثق قدره 131,072 الرمز.
يستخدم Granite 3.3 8B بنية Dense Transformer مع 8B. يسجل الملف 64 طبقة وعرضا مخفيا 8192 و64 رأس انتباه حيث تنشر هذه القيم.
بنية Dense Transformer موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة15.35 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل7.84 GB
الإجمالي مع هامش الأمان31.24 GB
أفضل قيمة موصى بها
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
109.76 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرأقل خيار قابل للتشغيل تكلفة
2× NVIDIA L4 24GB
48 GB إجمالي VRAM · pcie
16.76 GB هامش · متاح
USD ٥٠٠ / شهرأعلى أداء
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
109.76 GB هامش · سعة محدودة
USD ٢٬٣٤٥ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 8 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Granite 3.3 8B بموجب رخصة Apache 2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
البدائل والمتغيرات من الجيل نفسه
Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B
التسلسل الزمني للإصدار
ibm/granite/granite-3-3-8b
تفاصيل المصدر
مراجعة المصدر: 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468
الأسئلة الشائعة
كم يحتاج Granite 3.3 8B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Granite 3.3 8B؟
توجد أدلة رسمية موثقة لبيئات transformers.
هل يمكن استخدام Granite 3.3 8B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط رخصة Apache 2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26