Falcon-H1R-7B-FP8
فەرمی · FP8 · safetensors
ژینگەی کارپێکردن پشتڕاستکراوەتەوە: SGLang Transformers vLLM
| وردی / کوانتایزکردن | فۆرمات | بیت | متمانە بە بڵاوکەرەوە | دۆخی جێبەجێکردن |
|---|---|---|---|---|
| FP8 | safetensors | 8 | فەرمی | ژینگەی کارپێکردن پشتڕاستکراوەتەوە |
Falcon · بیرکردنەوە · Falcon-H1R
Falcon-H1R 7B FP8: تایبەتمەندی، پێداویستییەکانی GPU، میوانداری و جێبەجێکردن
Falcon-H1R 7B FP8 is a current Reasoning release in the Falcon family, certified from its immutable official source revision.
کۆی پارامەتەرەکان٧٫٦B
پارامەتەرە چالاکەکانمۆدێلی چڕ
پەنجەرەی کۆنتێکست٢٦٢٬١٤٤ tokens
دۆخی بڵاوکردنەوەئێستا · ئێستا
تەلارسازیFalconH1ForCausalLM
شێوازەکاندەق
مۆڵەتFalcon LLM
دۆخی جێبەجێکردنبە ڕێکخستنی پشتڕاستکراو جێبەجێ دەکرێت
دۆخی بازرگانیبەکارهێنانی بازرگانی بە مەرج ڕێگەپێدراوە
بەرواری بڵاوکردنەوە2026-01-28
تەلارسازی، بەهێزییەکان و بەکارهێنان
Falcon-H1R 7B FP8 is an official self-hostable Technology Innovation Institute release in the Falcon Reasoning track. It uses FalconH1ForCausalLM, carries 7.6B, supports a verified context window of 262,144 تۆکنەکان, and exposes only source-certified خاڵەکانی وەشان and ژینگەی جێبەجێکردن combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
Falcon-H1R 7B FP8 uses FalconH1ForCausalLM with 7.6B. The stored architecture profile records 44 layers, hidden width 3072, 12 attention heads and a 262,144 تۆکن context ceiling where the official configuration publishes those fields.
Verified FalconH1ForCausalLM architecture
262,144 تۆکن certified context
Official FP8 خاڵی وەشان coverage
Private LLM inference
Agentic workflows
Long-context document processing
خاڵەکانی پشکنین و کوانتایزکردنی پشتڕاستکراو
تەنها ئەو جۆرە وردانە پیشان دەدرێن کە سەرچاوە پشتڕاستی کردوونەوە و بەو وەشانەوە بەستراونەتەوە.
سەختەواڵەی پێشنیارکراو
Use only the listed transformers, vllm, sglang ژینگەی جێبەجێکردن configuration with the exact خاڵی وەشان precision. The recommendation engine checks weight memory, کاشی KV, ژینگەی جێبەجێکردن overhead, safety توانای زیادەی بەردەست, GPU architecture and topology before ranking rentable and reference hardware.
بیرگەی خەمڵێنراوی کێش7.29 GB
کاشی KV0.17 GB
پێداویستییە زیادەکانی ژینگەی کارپێکردن6.06 GB
کۆی گشتی لەگەڵ پاشەکەوتی ئاسایش16.77 GB
باشترین بەهای پێشنیارکراو
1× NVIDIA H100 SXM 80GB
80 GB کۆی VRAM · nvswitch
63.23 GB بۆشایی پاشەکەوت · بەردەستە
USD ١٬٨٦٠ / مانگهەرزانترین هەڵبژاردەی کارا
1× NVIDIA H100 PCIe 80GB
80 GB کۆی VRAM · pcie
63.23 GB بۆشایی پاشەکەوت · توانای سنووردار
USD ١٬٥٧٩ / مانگبەرزترین کارایی
1× NVIDIA H200 SXM 141GB
141 GB کۆی VRAM · nvswitch
124.23 GB بۆشایی پاشەکەوت · توانای سنووردار
USD ٢٬٣٤٥ / مانگمۆڵەت و بڕیارەکانی میوانداری لەسەر خۆت
The full 7.6B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
Falcon-H1R 7B FP8 is published under Falcon LLM. The release-scoped official license link and verification date are retained with the catalogue record.
بەکارهێنانی بازرگانی بە مەرج ڕێگەپێدراوە. بەکارهێنانی بازرگانی مەرجی هەیە. پێش جێبەجێکردن، مەرجە فەرمییە بەستراوەکان بخوێنەوە.
ڕێڕەوی کاتیی وەشان
tii/falcon/falcon-h1r-7b-fp8
وردەکاریی سەرچاوە
وەشانی سەرچاوە: edca4b7d5330a3904e3eb7facdce0ae6f5dba76d47e366be0f35584d47a6d3c4
پرسیارە باوەکان
How much VRAM does Falcon-H1R 7B FP8 require?
The exact estimate depends on خاڵی وەشان precision, context and concurrency; the page recommendation uses the certified memory engine and compatible ژینگەی جێبەجێکردن configurations.
Which ژینگەکانی جێبەجێکردن پشتگیری Falcon-H1R 7B FP8?
Certified upstream ژینگەی جێبەجێکردن evidence is available for transformers, vllm, sglang.
Can Falcon-H1R 7B FP8 be used commercially?
The stored commercial classification is Commercial Use Allowed With Conditions. Consult the official Falcon LLM terms for the final obligations.
سەرچاوە فەرمییەکان
دوا جار پشتڕاستکراوەتەوە: 2026-08-26