اصلي منځپانګې ته ورټوپ کړئ

NVIDIA Nemotron · Omni · Nemotron 3 Nano Omni

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 is a current Omni release in the NVIDIA Nemotron family, certified from its immutable official source revision.

Technical deployment reference illustration for NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۳۱٫۰B
فعال پارامېټرونه۳٫۰B
د context کړکۍ۲۶۲٬۱۴۴ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريNemotronH_Nano_Omni_Reasoning_V3
موداليټي‌ګانېمتن, انځور, غږ, ویډیو
جوازNVIDIA
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه د شرطونو له مخې اجازه لري
د خپرېدو نېټه2026-04-24

معماري، پیاوړتیاوې او کارونې

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 is an official self-hostable NVIDIA release in the NVIDIA Nemotron Omni track. It uses NemotronH_Nano_Omni_Reasoning_V3, carries 31B / 3B MoE, supports a verified context window of 262,144 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 uses NemotronH_Nano_Omni_Reasoning_V3 with 31B / 3B MoE. The stored architecture profile records 64 layers, hidden width 8192, 64 attention heads and a 262,144 ټوکن context ceiling where the official configuration publishes those fields.

Verified NemotronH_Nano_Omni_Reasoning_V3 architecture
262,144 ټوکن certified context
Official FP8, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
Vision-language analysis
Audio understanding

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

رسمي · FP8 · safetensors

اجرا چاپېریال تایید شوی: vLLM SGLang TensorRT-LLM Llama.cpp

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
FP8safetensors8رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed vllm, sglang, tensorrt-llm, llama.cpp د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه29.74 GB
KV cache1 GB
د اجرا چاپېریال اضافي اړتیا10.25 GB
ټول له خوندیتوب حاشیې سره50.83 GB

د ارزښت له مخې غوره سپارښتنه

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

90.17 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

3× NVIDIA L4 24GB

72 GB ټول VRAM · pcie

21.17 GB اضافي ظرفیت · شته

USD ۷۵۰ / میاشت

تر ټولو لوړ فعالیت

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

90.17 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 31B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 is published under NVIDIA. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه د شرطونو له مخې اجازه لري. سوداګریزه کارونه په شرطونو پورې تړلې ده. تر پلي کولو مخکې تړلي رسمي شرایط بیاکتئ.

د نسخو مهالوېش

nvidia/nemotron/nemotron-3-nano-omni-30b-a3b-reasoning-fp8

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: dd885e9548478d0d433c1239ed4598ad4a9faf7f58a8c706ab89885e5e2117fa

ډېرې پوښتل شوې پوښتنې

How much VRAM does NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8?

Certified upstream د اجرا چاپېریال evidence is available for vllm, sglang, tensorrt-llm, llama.cpp.

Can NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 be used commercially?

The stored commercial classification is Commercial Use Allowed With Conditions. Consult the official NVIDIA terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-08-26