granite-4.2-3b
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: SGLang Transformers vLLM
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
IBM Granite · सामान्य · Granite 4.2
Granite 4.2 3B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Granite 4.2 3B, IBM Granite परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाGraniteForCausalLM
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-08-25
आर्किटेक्चर, खूबियाँ और उपयोग
Granite 4.2 3B, IBM का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह IBM Granite सामान्य शाखा में GraniteForCausalLM, 3B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Granite 4.2 3B GraniteForCausalLM और 3B उपयोग करता है। प्रकाशित होने पर 40 परतें, hidden width 2560 और 40 attention heads दर्ज हैं।
सत्यापित GraniteForCausalLM आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी5.76 GB
केवी कैश0.63 GB
रनटाइम ओवरहेड5.87 GB
सुरक्षा मार्जिन सहित कुल15.19 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA A100 SXM 80GB
80 GB कुल VRAM · nvlink
64.81 GB मार्जिन · उपलब्ध
USD ९१५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
1× NVIDIA L4 24GB
24 GB कुल VRAM · pcie
8.81 GB मार्जिन · उपलब्ध
USD २५० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
125.81 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 3 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Granite 4.2 3B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Granite 4.2 30B, Granite 4.2 8B, Granite 4.1 30B
रिलीज़ क्रम
ibm/granite/granite-4-2-3b
स्रोत का विवरण
स्रोत संशोधन: dd9a1fe61833ecf5e9963237b60da9469bf3d5cf750bd93cde2c2997bb74da98
सामान्य प्रश्न
Granite 4.2 3B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Granite 4.2 3B को समर्थन देते हैं?
transformers, vllm, sglang के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Granite 4.2 3B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26