Архитектура, преимущества и сценарии
NVIDIA Nemotron 3.5 Lightning 30B-A3B — официальная модель NVIDIA для самостоятельного хостинга в направлении NVIDIA Nemotron Общий. Архитектура NemotronHForCausalLM, 30B / 3B MoE и проверенный контекст 262,144 токенов.
NVIDIA Nemotron 3.5 Lightning 30B-A3B использует NemotronHForCausalLM с 30B / 3B MoE. Профиль содержит 52 слоев, ширину 2688 и 32 голов внимания, если они опубликованы.
Проверенная архитектура NemotronHForCausalLM
Сертифицированный контекст 262,144 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов