OLMo-2-0325-32B-Instruct
allenai/OLMo-2-0325-32B-Instruct
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: Transformers
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
OLMo · عام · OLMo 2
OLMo 2 32B: المواصفات ومتطلبات GPU والاستضافة والنشر
OLMo 2 32B إصدار حديث ضمن مسار عام في عائلة OLMo، موثق من المراجعة الرسمية.
إجمالي المعلمات٣٢٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحديث · حديث
البنيةDense Transformer
الوسائطنص
الرخصةرخصة Apache 2.0
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح
تاريخ الإصدار2025-03-12
البنية ونقاط القوة والاستخدامات
OLMo 2 32B إصدار رسمي من Allen AI قابل للاستضافة الذاتية ضمن مسار OLMo عام. يستخدم Dense Transformer مع 32B وسياق موثق قدره 131,072 الرمز.
يستخدم OLMo 2 32B بنية Dense Transformer مع 32B. يسجل الملف 64 طبقة وعرضا مخفيا 8192 و64 رأس انتباه حيث تنشر هذه القيم.
بنية Dense Transformer موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة61.39 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل16.13 GB
الإجمالي مع هامش الأمان98.61 GB
أفضل قيمة موصى بها
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
61.39 GB هامش · متاح
USD ١٬٨٣٠ / شهرأقل خيار قابل للتشغيل تكلفة
5× NVIDIA L4 24GB
120 GB إجمالي VRAM · pcie
21.39 GB هامش · متاح
USD ١٬٢٥٠ / شهرأعلى أداء
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
61.39 GB هامش · متاح
USD ١٬٨٣٠ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 32 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر OLMo 2 32B بموجب رخصة Apache 2.0، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح. تسمح الرخصة الرسمية بالاستخدام التجاري مع بقاء جميع التزاماتها سارية.
البدائل والمتغيرات من الجيل نفسه
OLMo 3.1 32B Instruct
التسلسل الزمني للإصدار
allenai/olmo/olmo-2-32b @ 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572
الأسئلة الشائعة
كم يحتاج OLMo 2 32B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم OLMo 2 32B؟
توجد أدلة رسمية موثقة لبيئات transformers.
هل يمكن استخدام OLMo 2 32B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح. راجع شروط رخصة Apache 2.0 الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26