मुख्य सामग्री पर जाएं

NVIDIA Nemotron · सामान्य · Nemotron 3

NVIDIA Nemotron 3 Super 120B-A12B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

NVIDIA Nemotron 3 Super 120B-A12B, NVIDIA Nemotron परिवार की सामान्य शाखा में हाल का संस्करण है और आधिकारिक revision से प्रमाणित है।

सुझाव निकालें मॉडल अनुकूलित करें इस मॉडल की तुलना करें
NVIDIA Nemotron 3 Super 120B-A12B के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर१२०.०B
सक्रिय पैरामीटर१२.०B
संदर्भ सीमा२,६२,१४४ tokens
संस्करण स्थितिहाल का · हाल का
वास्तुकलाNemotronHForCausalLM
मोडैलिटीपाठ
लाइसेंसNVIDIA Nemotron मुक्त मॉडल लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिशर्तों के साथ व्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-03-10

आर्किटेक्चर, खूबियाँ और उपयोग

NVIDIA Nemotron 3 Super 120B-A12B, NVIDIA का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह NVIDIA Nemotron सामान्य शाखा में NemotronHForCausalLM, 120B / 12B MoE और 262,144 टोकन सत्यापित संदर्भ उपयोग करता है।

NVIDIA Nemotron 3 Super 120B-A12B NemotronHForCausalLM और 120B / 12B MoE उपयोग करता है। प्रकाशित होने पर 88 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।

सत्यापित NemotronHForCausalLM आर्किटेक्चर
262,144 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

NVIDIA-Nemotron-3-Super-120B-A12B-FP8

nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8

आधिकारिक · FP8 · safetensors

सत्यापित निष्पादन परिवेश: Transformers TensorRT-LLM

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
FP8safetensors8आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी115.11 GB
केवी कैश0.34 GB
रनटाइम ओवरहेड37.77 GB
सुरक्षा मार्जिन सहित कुल190 GB

अनुशंसित सर्वोत्तम मूल्य

3× NVIDIA H100 SXM 80GB

240 GB कुल VRAM · nvswitch

50 GB मार्जिन · उपलब्ध

USD ५,५८० / माह

सबसे कम लागत वाला उपयुक्त विकल्प

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

92 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

सर्वोच्च प्रदर्शन

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

92 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 120 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

NVIDIA Nemotron 3 Super 120B-A12B NVIDIA Nemotron मुक्त मॉडल लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

शर्तों के साथ व्यावसायिक उपयोग अनुमत. व्यावसायिक उपयोग शर्तों के अधीन है। परिनियोजन से पहले लिंक की गई आधिकारिक शर्तें देखें।

विकल्प और समान-पीढ़ी वैरिएंट

NVIDIA Nemotron 3 Ultra 550B-A55B, NVIDIA Nemotron 3.5 Lightning 30B-A3B, NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4

रिलीज़ क्रम

nvidia/nemotron/nemotron-3-super-120b-a12b

स्रोत का विवरण

आधिकारिक स्रोत

स्रोत संशोधन: 680e0e5a3131d196ec831e0f1d320c7e0a5405faac89108daf9591babe14134c

सामान्य प्रश्न

NVIDIA Nemotron 3 Super 120B-A12B को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम NVIDIA Nemotron 3 Super 120B-A12B को समर्थन देते हैं?

transformers, tensorrt-llm के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या NVIDIA Nemotron 3 Super 120B-A12B का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण शर्तों के साथ व्यावसायिक उपयोग अनुमत है। आधिकारिक NVIDIA Nemotron मुक्त मॉडल लाइसेंस शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-08-26