Falcon-H1-34B-Instruct
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Falcon · सामान्य · Falcon-H1
Falcon-H1 34B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Falcon-H1 34B, Falcon परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३४.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाDense Transformer
मोडैलिटीपाठ
लाइसेंसFalcon LLM लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिशर्तों के साथ व्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-05-01
आर्किटेक्चर, खूबियाँ और उपयोग
Falcon-H1 34B, Technology Innovation Institute का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Falcon सामान्य शाखा में Dense Transformer, 34B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Falcon-H1 34B Dense Transformer और 34B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 8192 और 64 attention heads दर्ज हैं।
सत्यापित Dense Transformer आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी65.23 GB
केवी कैश2 GB
रनटाइम ओवरहेड16.92 GB
सुरक्षा मार्जिन सहित कुल104.34 GB
अनुशंसित सर्वोत्तम मूल्य
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
55.66 GB मार्जिन · उपलब्ध
USD १,८३० / माहसबसे कम लागत वाला उपयुक्त विकल्प
5× NVIDIA L4 24GB
120 GB कुल VRAM · pcie
15.66 GB मार्जिन · उपलब्ध
USD १,२५० / माहसर्वोच्च प्रदर्शन
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
55.66 GB मार्जिन · उपलब्ध
USD १,८३० / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 34 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Falcon-H1 34B Falcon LLM लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
शर्तों के साथ व्यावसायिक उपयोग अनुमत. व्यावसायिक उपयोग शर्तों के अधीन है। परिनियोजन से पहले लिंक की गई आधिकारिक शर्तें देखें।
रिलीज़ क्रम
tii/falcon/falcon-h1-34b
स्रोत का विवरण
स्रोत संशोधन: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
सामान्य प्रश्न
Falcon-H1 34B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Falcon-H1 34B को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Falcon-H1 34B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण शर्तों के साथ व्यावसायिक उपयोग अनुमत है। आधिकारिक Falcon LLM लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26