Falcon-H1-34B-Instruct
رسمي · BF16 · safetensors
بيئة التشغيل الموثقة: Transformers
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | بيئة التشغيل الموثقة |
Falcon · عام · Falcon-H1
Falcon-H1 34B: المواصفات ومتطلبات GPU والاستضافة والنشر
Falcon-H1 34B إصدار حالي ضمن مسار عام في عائلة Falcon، موثق من المراجعة الرسمية.
إجمالي المعلمات٣٤٫٠B
المعلمات النشطةنموذج كثيف
نافذة السياق١٣١٬٠٧٢ tokens
حالة الإصدارحالي · حالي
البنيةDense Transformer
الوسائطنص
الرخصةرخصة Falcon LLM
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح بشروط
تاريخ الإصدار2025-05-01
البنية ونقاط القوة والاستخدامات
Falcon-H1 34B إصدار رسمي من Technology Innovation Institute قابل للاستضافة الذاتية ضمن مسار Falcon عام. يستخدم Dense Transformer مع 34B وسياق موثق قدره 131,072 الرمز.
يستخدم Falcon-H1 34B بنية Dense Transformer مع 34B. يسجل الملف 64 طبقة وعرضا مخفيا 8192 و64 رأس انتباه حيث تنشر هذه القيم.
بنية Dense Transformer موثقة
سياق موثق قدره 131,072 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة65.23 GB
ذاكرة KV المؤقتة2 GB
تكلفة بيئة التشغيل16.92 GB
الإجمالي مع هامش الأمان104.34 GB
أفضل قيمة موصى بها
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
55.66 GB هامش · متاح
$١٬٨٣٠٫٠٠ / شهرأقل خيار قابل للتشغيل تكلفة
5× NVIDIA L4 24GB
120 GB إجمالي VRAM · pcie
15.66 GB هامش · متاح
$١٬٢٥٠٫٠٠ / شهرأعلى أداء
2× NVIDIA A100 SXM 80GB
160 GB إجمالي VRAM · nvlink
55.66 GB هامش · متاح
$١٬٨٣٠٫٠٠ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 34 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Falcon-H1 34B بموجب رخصة Falcon LLM، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح بشروط. يخضع الاستخدام التجاري لشروط. راجع الشروط الرسمية المرتبطة قبل النشر.
التسلسل الزمني للإصدار
tii/falcon/falcon-h1-34b @ e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
الأسئلة الشائعة
كم يحتاج Falcon-H1 34B من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Falcon-H1 34B؟
توجد أدلة رسمية موثقة لبيئات transformers.
هل يمكن استخدام Falcon-H1 34B تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح بشروط. راجع شروط رخصة Falcon LLM الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26