gemma-3-12b-it
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Gemma · सामान्य · Gemma 3
Gemma 3 12B IT: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Gemma 3 12B IT, Gemma परिवार की सामान्य शाखा में हाल का संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर१२.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,२८,००० tokens
संस्करण स्थितिहाल का · हाल का
वास्तुकलाDense Transformer
मोडैलिटीपाठ, चित्र
लाइसेंसGemma उपयोग की शर्तें
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिशर्तों के साथ व्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-03-01
आर्किटेक्चर, खूबियाँ और उपयोग
Gemma 3 12B IT, Google का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Gemma सामान्य शाखा में Dense Transformer, 12B और 128,000 टोकन सत्यापित संदर्भ उपयोग करता है।
Gemma 3 12B IT Dense Transformer और 12B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 8192 और 64 attention heads दर्ज हैं।
सत्यापित Dense Transformer आर्किटेक्चर
128,000 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी23.02 GB
केवी कैश2 GB
रनटाइम ओवरहेड9.22 GB
सुरक्षा मार्जिन सहित कुल42.47 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
98.53 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
2× NVIDIA L4 24GB
48 GB कुल VRAM · pcie
5.53 GB मार्जिन · उपलब्ध
USD ५०० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
98.53 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 12 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Gemma 3 12B IT Gemma उपयोग की शर्तें के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
शर्तों के साथ व्यावसायिक उपयोग अनुमत. व्यावसायिक उपयोग शर्तों के अधीन है। परिनियोजन से पहले लिंक की गई आधिकारिक शर्तें देखें।
विकल्प और समान-पीढ़ी वैरिएंट
Gemma 3 27B IT, Gemma 4 12B IT, Gemma 4 31B IT, Gemma 4 26B-A4B IT
रिलीज़ क्रम
google/gemma/gemma-3-12b-it @ 4f0c195eeedeb238fd660bbc25f073a1b0fb4f1d8adb8d2f8103e12cb2defc46
सामान्य प्रश्न
Gemma 3 12B IT को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Gemma 3 12B IT को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Gemma 3 12B IT का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण शर्तों के साथ व्यावसायिक उपयोग अनुमत है। आधिकारिक Gemma उपयोग की शर्तें शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26