Zum Hauptinhalt springen

NVIDIA Nemotron · Allgemein · Nemotron 3

NVIDIA Nemotron 3 Super 120B-A12B: Daten, GPU-Bedarf, Hosting und Bereitstellung

NVIDIA Nemotron 3 Super 120B-A12B ist eine Neu-Version im Allgemein-Zweig der NVIDIA Nemotron-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für NVIDIA Nemotron 3 Super 120B-A12B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter120,0B
Aktive Parameter12,0B
Kontextfenster262.144 tokens
VersionsstatusNeu · Neu
ArchitekturNemotronHForCausalLM
ModalitätenText
LizenzOffene Modelllizenz für NVIDIA Nemotron
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung unter Auflagen erlaubt
Veröffentlichungsdatum2026-03-10

Architektur, Stärken und Einsatzbereiche

NVIDIA Nemotron 3 Super 120B-A12B ist eine offizielle selbst hostbare NVIDIA-Version im Zweig NVIDIA Nemotron Allgemein. Sie nutzt NemotronHForCausalLM mit 120B / 12B MoE und 262,144 geprüften Kontext-Token.

NVIDIA Nemotron 3 Super 120B-A12B nutzt NemotronHForCausalLM mit 120B / 12B MoE. Das Quellenprofil enthält 88 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.

Geprüfte NemotronHForCausalLM-Architektur
262,144 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

NVIDIA-Nemotron-3-Super-120B-A12B-FP8

nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8

Offiziell · FP8 · safetensors

Laufzeitumgebung verifiziert: Transformers TensorRT-LLM

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
FP8safetensors8OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher115.11 GB
KV cache0.34 GB
Laufzeitaufwand37.77 GB
Gesamt mit Sicherheitsreserve190 GB

Empfohlenes Preis-Leistungs-Verhältnis

3× NVIDIA H100 SXM 80GB

240 GB VRAM gesamt · nvswitch

50 GB Reserve · Verfügbar

USD 5.580 / Monat

Günstigste geeignete Option

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

92 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Höchste Leistung

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

92 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 120 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

NVIDIA Nemotron 3 Super 120B-A12B wird unter Offene Modelllizenz für NVIDIA Nemotron veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung unter Auflagen erlaubt. Die kommerzielle Nutzung ist an Bedingungen geknüpft. Prüfen Sie vor der Bereitstellung die verlinkten offiziellen Bedingungen.

Alternativen und gleichrangige Varianten

NVIDIA Nemotron 3 Ultra 550B-A55B, NVIDIA Nemotron 3.5 Lightning 30B-A3B, NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4

Versionsverlauf

nvidia/nemotron/nemotron-3-super-120b-a12b

Quellendetails

Offizielle Quelle

Quellrevision: 680e0e5a3131d196ec831e0f1d320c7e0a5405faac89108daf9591babe14134c

Häufige Fragen

Wie viel VRAM benötigt NVIDIA Nemotron 3 Super 120B-A12B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen NVIDIA Nemotron 3 Super 120B-A12B?

Geprüfte Upstream-Belege liegen für transformers, tensorrt-llm vor.

Darf NVIDIA Nemotron 3 Super 120B-A12B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung unter Auflagen erlaubt. Maßgeblich sind die offiziellen Offene Modelllizenz für NVIDIA Nemotron-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26