Passer au contenu principal

NVIDIA Nemotron · Omni · Nemotron 3 Nano Omni

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 : caractéristiques, besoins GPU, hébergement et déploiement

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 est une version Actuel de la branche Omni de NVIDIA Nemotron, certifiée depuis sa révision officielle.

Illustration technique de déploiement pour NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux31,0B
Paramètres actifs3,0B
Fenêtre de contexte262 144 tokens
Statut de la versionActuel · Actuel
Architecture du modèleNemotronH_Nano_Omni_Reasoning_V3
ModalitésTexte, Image, Audio, Vidéo
LicenceAccord de licence de modèle ouvert NVIDIA
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé sous conditions
Date de sortie2026-04-24

Architecture, points forts et usages

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 est une version officielle auto-hébergeable de NVIDIA dans la branche NVIDIA Nemotron Omni. Elle utilise NemotronH_Nano_Omni_Reasoning_V3 avec 31B / 3B MoE et un contexte vérifié de 262,144 tokens.

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 utilise NemotronH_Nano_Omni_Reasoning_V3 avec 31B / 3B MoE. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.

Architecture NemotronH_Nano_Omni_Reasoning_V3 vérifiée
Contexte certifié de 262,144 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-FP8

Officiel · FP8 · safetensors

Environnement d’exécution certifié: vLLM SGLang TensorRT-LLM Llama.cpp

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
FP8safetensors8OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids29.74 GB
Cache KV1 GB
Surcharge de l’environnement d’exécution10.25 GB
Total avec marge de sécurité50.83 GB

Meilleur rapport qualité-prix

1× NVIDIA H200 SXM 141GB

141 GB VRAM totale · nvswitch

90.17 GB de marge · Capacité limitée

USD 2 345 / mois

Option viable la moins chère

3× NVIDIA L4 24GB

72 GB VRAM totale · pcie

21.17 GB de marge · Disponible

USD 750 / mois

Performances maximales

1× NVIDIA H200 SXM 141GB

141 GB VRAM totale · nvswitch

90.17 GB de marge · Capacité limitée

USD 2 345 / mois

Licence et considérations d’auto-hébergement

Les 31 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 est publié sous Accord de licence de modèle ouvert NVIDIA. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé sous conditions. L’usage commercial est soumis à conditions. Consultez les conditions officielles indiquées avant tout déploiement.

Chronologie des versions

nvidia/nemotron/nemotron-3-nano-omni-30b-a3b-reasoning-fp8 @ dd885e9548478d0d433c1239ed4598ad4a9faf7f58a8c706ab89885e5e2117fa

Source officielle

Questions fréquentes

Quelle VRAM faut-il pour NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour vllm, sglang, tensorrt-llm, llama.cpp.

NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning FP8 peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé sous conditions. Consultez les conditions officielles de Accord de licence de modèle ouvert NVIDIA.

Références officielles

Dernière vérification: 2026-08-26