Архитектура, преимущества и сценарии
NVIDIA Nemotron 3 Super 120B-A12B — официальная модель NVIDIA для самостоятельного хостинга в направлении NVIDIA Nemotron Общий. Архитектура NemotronHForCausalLM, 120B / 12B MoE и проверенный контекст 262,144 токенов.
NVIDIA Nemotron 3 Super 120B-A12B использует NemotronHForCausalLM с 120B / 12B MoE. Профиль содержит 88 слоев, ширину 4096 и 32 голов внимания, если они опубликованы.
Проверенная архитектура NemotronHForCausalLM
Сертифицированный контекст 262,144 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов