granite-4.1-30b
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
IBM Granite · सामान्य · Granite 4.1
Granite 4.1 30B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Granite 4.1 30B, IBM Granite परिवार की सामान्य शाखा में हाल का संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर२८.९B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिहाल का · हाल का
वास्तुकलाGraniteForCausalLM
मोडैलिटीपाठ
लाइसेंसapache-2.0
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-04-06
आर्किटेक्चर, खूबियाँ और उपयोग
Granite 4.1 30B, IBM का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह IBM Granite सामान्य शाखा में GraniteForCausalLM, 28.9B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Granite 4.1 30B GraniteForCausalLM और 28.9B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।
सत्यापित GraniteForCausalLM आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी55.45 GB
केवी कैश2 GB
रनटाइम ओवरहेड15.06 GB
सुरक्षा मार्जिन सहित कुल89.91 GB
अनुशंसित सर्वोत्तम मूल्य
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
70.09 GB मार्जिन · उपलब्ध
USD १,८३० / माहसबसे कम लागत वाला उपयुक्त विकल्प
4× NVIDIA L4 24GB
96 GB कुल VRAM · pcie
6.09 GB मार्जिन · उपलब्ध
USD १,००० / माहसर्वोच्च प्रदर्शन
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
70.09 GB मार्जिन · उपलब्ध
USD १,८३० / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 28.9 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Granite 4.1 30B apache-2.0 के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B
रिलीज़ क्रम
ibm/granite/granite-4-1-30b
स्रोत का विवरण
स्रोत संशोधन: c9d5fa2930a611bb481573dc233b242ee8f2b45f60d32c68ce6bb1bd80e1be0c
सामान्य प्रश्न
Granite 4.1 30B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Granite 4.1 30B को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Granite 4.1 30B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक apache-2.0 शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-09-03