मुख्य सामग्री पर जाएं

NVIDIA Nemotron · ओम्नी · Nemotron 3 Nano Omni

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8, NVIDIA Nemotron परिवार की ओम्नी शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।

सुझाव निकालें मॉडल अनुकूलित करें इस मॉडल की तुलना करें
NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर३१.०B
सक्रिय पैरामीटर३.०B
संदर्भ सीमा२,६२,१४४ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाNemotronH_Nano_Omni_Reasoning_V3
मोडैलिटीपाठ, चित्र, ऑडियो, वीडियो
लाइसेंसNVIDIA मुक्त मॉडल लाइसेंस समझौता
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिशर्तों के साथ व्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-04-24

आर्किटेक्चर, खूबियाँ और उपयोग

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8, NVIDIA का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह NVIDIA Nemotron ओम्नी शाखा में NemotronH_Nano_Omni_Reasoning_V3, 31B / 3B MoE और 262,144 टोकन सत्यापित संदर्भ उपयोग करता है।

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 NemotronH_Nano_Omni_Reasoning_V3 और 31B / 3B MoE उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 8192 और 64 attention heads दर्ज हैं।

सत्यापित NemotronH_Nano_Omni_Reasoning_V3 आर्किटेक्चर
262,144 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

आधिकारिक · FP8 · safetensors

सत्यापित निष्पादन परिवेश: vLLM SGLang TensorRT-LLM Llama.cpp

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
FP8safetensors8आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी29.74 GB
केवी कैश1 GB
रनटाइम ओवरहेड10.25 GB
सुरक्षा मार्जिन सहित कुल50.83 GB

अनुशंसित सर्वोत्तम मूल्य

1× NVIDIA H200 SXM 141GB

141 GB कुल VRAM · nvswitch

90.17 GB मार्जिन · सीमित क्षमता

USD २,३४५ / माह

सबसे कम लागत वाला उपयुक्त विकल्प

3× NVIDIA L4 24GB

72 GB कुल VRAM · pcie

21.17 GB मार्जिन · उपलब्ध

USD ७५० / माह

सर्वोच्च प्रदर्शन

1× NVIDIA H200 SXM 141GB

141 GB कुल VRAM · nvswitch

90.17 GB मार्जिन · सीमित क्षमता

USD २,३४५ / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 31 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 NVIDIA मुक्त मॉडल लाइसेंस समझौता के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

शर्तों के साथ व्यावसायिक उपयोग अनुमत. व्यावसायिक उपयोग शर्तों के अधीन है। परिनियोजन से पहले लिंक की गई आधिकारिक शर्तें देखें।

रिलीज़ क्रम

nvidia/nemotron/nemotron-3-nano-omni-30b-a3b-reasoning-fp8

स्रोत का विवरण

आधिकारिक स्रोत

स्रोत संशोधन: dd885e9548478d0d433c1239ed4598ad4a9faf7f58a8c706ab89885e5e2117fa

सामान्य प्रश्न

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 को समर्थन देते हैं?

vllm, sglang, tensorrt-llm, llama.cpp के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण शर्तों के साथ व्यावसायिक उपयोग अनुमत है। आधिकारिक NVIDIA मुक्त मॉडल लाइसेंस समझौता शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-08-26