granite-4.2-8b
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: SGLang Transformers vLLM
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
IBM Granite · सामान्य · Granite 4.2
Granite 4.2 8B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Granite 4.2 8B, IBM Granite परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर८.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाGraniteForCausalLM
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ परिनियोज्य
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-08-25
आर्किटेक्चर, खूबियाँ और उपयोग
Granite 4.2 8B, IBM का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह IBM Granite सामान्य शाखा में GraniteForCausalLM, 8B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Granite 4.2 8B GraniteForCausalLM और 8B उपयोग करता है। प्रकाशित होने पर 40 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।
सत्यापित GraniteForCausalLM आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी15.35 GB
केवी कैश1.25 GB
रनटाइम ओवरहेड7.71 GB
सुरक्षा मार्जिन सहित कुल30.14 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA A100 SXM 80GB
80 GB कुल VRAM · nvlink
49.86 GB मार्जिन · उपलब्ध
USD ९१५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
2× NVIDIA L4 24GB
48 GB कुल VRAM · pcie
17.86 GB मार्जिन · उपलब्ध
USD ५०० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
110.86 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 8 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Granite 4.2 8B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B
रिलीज़ क्रम
ibm/granite/granite-4-2-8b @ cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78
सामान्य प्रश्न
Granite 4.2 8B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Granite 4.2 8B को समर्थन देते हैं?
transformers, vllm, sglang के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Granite 4.2 8B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26