gemma-4-12B-it
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Gemma · सामान्य · Gemma 4
Gemma 4 12B IT: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Gemma 4 12B IT, Gemma परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर१२.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा२,६२,१४४ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाGemma4UnifiedForConditionalGeneration
मोडैलिटीपाठ, चित्र, ऑडियो
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-05-23
आर्किटेक्चर, खूबियाँ और उपयोग
Gemma 4 12B IT, Google का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Gemma सामान्य शाखा में Gemma4UnifiedForConditionalGeneration, 12B और 262,144 टोकन सत्यापित संदर्भ उपयोग करता है।
Gemma 4 12B IT Gemma4UnifiedForConditionalGeneration और 12B उपयोग करता है। प्रकाशित होने पर 48 परतें, hidden width 3840 और 16 attention heads दर्ज हैं।
सत्यापित Gemma4UnifiedForConditionalGeneration आर्किटेक्चर
262,144 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी23.02 GB
केवी कैश3 GB
रनटाइम ओवरहेड9.4 GB
सुरक्षा मार्जिन सहित कुल43.93 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
97.07 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
2× NVIDIA L4 24GB
48 GB कुल VRAM · pcie
4.07 GB मार्जिन · उपलब्ध
USD ५०० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
97.07 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 12 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Gemma 4 12B IT Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Gemma 4 31B IT, Gemma 4 26B-A4B IT, Gemma 3 27B IT
रिलीज़ क्रम
google/gemma/gemma-4-12b-it
स्रोत का विवरण
स्रोत संशोधन: c0b5ed3f8356289e6ba070b6a9006fc66e475c195c78a18218f84c13055d5e67
सामान्य प्रश्न
Gemma 4 12B IT को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Gemma 4 12B IT को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Gemma 4 12B IT का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26