Falcon-H1R-7B-FP8
رسمي · FP8 · safetensors
بيئة التشغيل الموثقة: SGLang Transformers vLLM
| الدقة / التكميم | التنسيق | البتات | ثقة الناشر | حالة النشر |
|---|---|---|---|---|
| FP8 | safetensors | 8 | رسمي | بيئة التشغيل الموثقة |
Falcon · استدلال · Falcon-H1R
Falcon-H1R 7B FP8: المواصفات ومتطلبات GPU والاستضافة والنشر
Falcon-H1R 7B FP8 إصدار حالي ضمن مسار استدلال في عائلة Falcon، موثق من المراجعة الرسمية.
إجمالي المعلمات٧٫٦B
المعلمات النشطةنموذج كثيف
نافذة السياق٢٦٢٬١٤٤ tokens
حالة الإصدارحالي · حالي
البنيةFalconH1ForCausalLM
الوسائطنص
الرخصةرخصة Falcon LLM
حالة النشرقابل للنشر بتكوين موثق
الحالة التجاريةالاستخدام التجاري مسموح بشروط
تاريخ الإصدار2026-01-28
البنية ونقاط القوة والاستخدامات
Falcon-H1R 7B FP8 إصدار رسمي من Technology Innovation Institute قابل للاستضافة الذاتية ضمن مسار Falcon استدلال. يستخدم FalconH1ForCausalLM مع 7.6B وسياق موثق قدره 262,144 الرمز.
يستخدم Falcon-H1R 7B FP8 بنية FalconH1ForCausalLM مع 7.6B. يسجل الملف 44 طبقة وعرضا مخفيا 3072 و12 رأس انتباه حيث تنشر هذه القيم.
بنية FalconH1ForCausalLM موثقة
سياق موثق قدره 262,144 الرمز
مصدر نقطة التحقق رسمي
استدلال LLM خاص
تدفقات وكلاء
معالجة مستندات طويلة
نقاط التحقق وعمليات تكميم موثقة
تظهر فقط المتغيرات الدقيقة المرتبطة بهذا الإصدار والموثقة من المصدر.
العتاد الموصى به
استخدم فقط تركيبات بيئة التشغيل الموثقة مع دقة نقطة التحقق المحددة. يفحص الترتيب الأوزان وKV cache والتكاليف وبنية GPU والطوبولوجيا.
ذاكرة الأوزان المقدرة7.29 GB
ذاكرة KV المؤقتة0.17 GB
تكلفة بيئة التشغيل6.06 GB
الإجمالي مع هامش الأمان16.77 GB
أفضل قيمة موصى بها
1× NVIDIA H100 SXM 80GB
80 GB إجمالي VRAM · nvswitch
63.23 GB هامش · متاح
$١٬٨٦٠٫٠٠ / شهرأقل خيار قابل للتشغيل تكلفة
1× NVIDIA H100 PCIe 80GB
80 GB إجمالي VRAM · pcie
63.23 GB هامش · سعة محدودة
$١٬٥٧٩٫٠٠ / شهرأعلى أداء
1× NVIDIA H200 SXM 141GB
141 GB إجمالي VRAM · nvswitch
124.23 GB هامش · سعة محدودة
$٢٬٣٤٥٫٠٠ / شهرالرخصة واعتبارات الاستضافة الذاتية
يجب أن تلائم مجموعة الأوزان المقيمة الكاملة البالغة 7.6 B وحدات GPU المختارة. يزيد السياق والتزامن ذاكرة ذاكرة KV المؤقتة.
ينشر Falcon-H1R 7B FP8 بموجب رخصة Falcon LLM، ويحتفظ برابط الرخصة الرسمي وتاريخ التحقق.
الاستخدام التجاري مسموح بشروط. يخضع الاستخدام التجاري لشروط. راجع الشروط الرسمية المرتبطة قبل النشر.
التسلسل الزمني للإصدار
tii/falcon/falcon-h1r-7b-fp8 @ edca4b7d5330a3904e3eb7facdce0ae6f5dba76d47e366be0f35584d47a6d3c4
الأسئلة الشائعة
كم يحتاج Falcon-H1R 7B FP8 من VRAM؟
يعتمد التقدير على دقة نقطة التحقق والسياق والتزامن ويستخدم بيانات موثقة.
ما بيئات التشغيل التي تدعم Falcon-H1R 7B FP8؟
توجد أدلة رسمية موثقة لبيئات transformers, vllm, sglang.
هل يمكن استخدام Falcon-H1R 7B FP8 تجاريا؟
التصنيف المخزن هو الاستخدام التجاري مسموح بشروط. راجع شروط رخصة Falcon LLM الرسمية.
المراجع الرسمية
آخر تحقق: 2026-08-26