Falcon-H1R-7B-FP8
رسمي · FP8 · safetensors
اجرا چاپېریال تایید شوی: SGLang Transformers vLLM
| Precision / quantization | بڼه | بټونه | پر خپروونکي باور | د ځایپرځای کولو حالت |
|---|---|---|---|---|
| FP8 | safetensors | 8 | رسمي | اجرا چاپېریال تایید شوی |
Falcon · استدلال · Falcon-H1R
Falcon-H1R 7B FP8: ځانګړنې، د GPU اړتیاوې، کوربهتوب او ځایپرځای کول
Falcon-H1R 7B FP8 is a current Reasoning release in the Falcon family, certified from its immutable official source revision.
ټول پارامېټرونه۷٫۶B
فعال پارامېټرونهDense ماډل
د context کړکۍ۲۶۲٬۱۴۴ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريFalconH1ForCausalLM
موداليټيګانېمتن
جوازFalcon LLM
د ځایپرځای کولو حالتله تصدیق شوي تنظیم سره ځایپرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه د شرطونو له مخې اجازه لري
د خپرېدو نېټه2026-01-28
معماري، پیاوړتیاوې او کارونې
Falcon-H1R 7B FP8 is an official self-hostable Technology Innovation Institute release in the Falcon Reasoning track. It uses FalconH1ForCausalLM, carries 7.6B, supports a verified context window of 262,144 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
Falcon-H1R 7B FP8 uses FalconH1ForCausalLM with 7.6B. The stored architecture profile records 44 layers, hidden width 3072, 12 attention heads and a 262,144 ټوکن context ceiling where the official configuration publishes those fields.
Verified FalconH1ForCausalLM architecture
262,144 ټوکن certified context
Official FP8 checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
تایید شوي checkpoint-ونه او quantization-ونه
یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.
سپارښتل شوی هارډوېیر
Use only the listed transformers, vllm, sglang د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.
د وزنونو اټکلي حافظه7.29 GB
KV cache0.17 GB
د اجرا چاپېریال اضافي اړتیا6.06 GB
ټول له خوندیتوب حاشیې سره16.77 GB
د ارزښت له مخې غوره سپارښتنه
1× NVIDIA H100 SXM 80GB
80 GB ټول VRAM · nvswitch
63.23 GB اضافي ظرفیت · شته
USD ۱٬۸۶۰ / میاشتد عملي انتخابونو تر ټولو ټیټ لګښت
1× NVIDIA H100 PCIe 80GB
80 GB ټول VRAM · pcie
63.23 GB اضافي ظرفیت · محدود ظرفیت
USD ۱٬۵۷۹ / میاشتتر ټولو لوړ فعالیت
1× NVIDIA H200 SXM 141GB
141 GB ټول VRAM · nvswitch
124.23 GB اضافي ظرفیت · محدود ظرفیت
USD ۲٬۳۴۵ / میاشتد جواز او خپل کوربهتوب ملاحظات
The full 7.6B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
Falcon-H1R 7B FP8 is published under Falcon LLM. The release-scoped official license link and verification date are retained with the catalogue record.
سوداګریزه کارونه د شرطونو له مخې اجازه لري. سوداګریزه کارونه په شرطونو پورې تړلې ده. تر پلي کولو مخکې تړلي رسمي شرایط بیاکتئ.
د نسخو مهالوېش
tii/falcon/falcon-h1r-7b-fp8
د سرچینې جزئیات
د سرچینې revision: edca4b7d5330a3904e3eb7facdce0ae6f5dba76d47e366be0f35584d47a6d3c4
ډېرې پوښتل شوې پوښتنې
How much VRAM does Falcon-H1R 7B FP8 require?
The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.
Which د اجرا چاپېریالونه ملاتړ Falcon-H1R 7B FP8?
Certified upstream د اجرا چاپېریال evidence is available for transformers, vllm, sglang.
Can Falcon-H1R 7B FP8 be used commercially?
The stored commercial classification is Commercial Use Allowed With Conditions. Consult the official Falcon LLM terms for the final obligations.
رسمي مراجع
وروستی تایید: 2026-08-26