granite-4.2-30b
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: SGLang Transformers vLLM
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
IBM Granite · सामान्य · Granite 4.2
Granite 4.2 30B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Granite 4.2 30B, IBM Granite परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३०.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाGraniteForCausalLM
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-08-25
आर्किटेक्चर, खूबियाँ और उपयोग
Granite 4.2 30B, IBM का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह IBM Granite सामान्य शाखा में GraniteForCausalLM, 30B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Granite 4.2 30B GraniteForCausalLM और 30B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।
सत्यापित GraniteForCausalLM आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी57.56 GB
केवी कैश2 GB
रनटाइम ओवरहेड15.44 GB
सुरक्षा मार्जिन सहित कुल92.99 GB
अनुशंसित सर्वोत्तम मूल्य
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
67.01 GB मार्जिन · उपलब्ध
USD १,८३० / माहसबसे कम लागत वाला उपयुक्त विकल्प
4× NVIDIA L4 24GB
96 GB कुल VRAM · pcie
3.01 GB मार्जिन · उपलब्ध
USD १,००० / माहसर्वोच्च प्रदर्शन
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
67.01 GB मार्जिन · उपलब्ध
USD १,८३० / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 30 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Granite 4.2 30B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Granite 4.2 8B, Granite 4.2 3B, Granite 4.1 30B
रिलीज़ क्रम
ibm/granite/granite-4-2-30b
स्रोत का विवरण
स्रोत संशोधन: 37162f41301604396463c91856e5c7bdfaf69aaab7a36920fee97fedd14fa694
सामान्य प्रश्न
Granite 4.2 30B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Granite 4.2 30B को समर्थन देते हैं?
transformers, vllm, sglang के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Granite 4.2 30B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26