Architecture, points forts et usages
NVIDIA Nemotron 3.5 Lightning 30B-A3B est une version officielle auto-hébergeable de NVIDIA dans la branche NVIDIA Nemotron Général. Elle utilise NemotronHForCausalLM avec 30B / 3B MoE et un contexte vérifié de 262,144 tokens.
NVIDIA Nemotron 3.5 Lightning 30B-A3B utilise NemotronHForCausalLM avec 30B / 3B MoE. Le profil vérifié indique 52 couches, une largeur cachée de 2688 et 32 têtes d’attention lorsque ces valeurs sont publiées.
Architecture NemotronHForCausalLM vérifiée
Contexte certifié de 262,144 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs