Перейти к основному содержимому

NVIDIA Nemotron · Общий · Nemotron 3

NVIDIA Nemotron 3 Super 120B-A12B: характеристики, требования к GPU, хостинг и развертывание

NVIDIA Nemotron 3 Super 120B-A12B — версия Недавний направления Общий семейства NVIDIA Nemotron, подтвержденная официальной ревизией.

Техническая схема развертывания NVIDIA Nemotron 3 Super 120B-A12B
Эталонный поток; точные данные указаны отдельно.
Всего параметров120,0B
Активные параметры12,0B
Окно контекста262 144 tokens
Статус версииНедавний · Недавний
АрхитектураNemotronHForCausalLM
МодальностиТекст
ЛицензияОткрытая лицензия на модель NVIDIA Nemotron
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2026-03-10

Архитектура, преимущества и сценарии

NVIDIA Nemotron 3 Super 120B-A12B — официальная модель NVIDIA для самостоятельного хостинга в направлении NVIDIA Nemotron Общий. Архитектура NemotronHForCausalLM, 120B / 12B MoE и проверенный контекст 262,144 токенов.

NVIDIA Nemotron 3 Super 120B-A12B использует NemotronHForCausalLM с 120B / 12B MoE. Профиль содержит 88 слоев, ширину 4096 и 32 голов внимания, если они опубликованы.

Проверенная архитектура NemotronHForCausalLM
Сертифицированный контекст 262,144 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

NVIDIA-Nemotron-3-Super-120B-A12B-FP8

nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8

Официальный · FP8 · safetensors

Проверенная среда выполнения: Transformers TensorRT-LLM

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
FP8safetensors8ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов115.11 GB
KV-кэш0.34 GB
Накладные расходы среды выполнения37.77 GB
Итого с запасом190 GB

Рекомендуемое соотношение цены и качества

3× NVIDIA H100 SXM 80GB

240 GB общая VRAM · nvswitch

50 GB запаса · Доступно

USD 5 580 / месяц

Самый дешевый подходящий вариант

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

92 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Максимальная производительность

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

92 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Лицензия и самостоятельный хостинг

Все 120 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

NVIDIA Nemotron 3 Super 120B-A12B опубликована под лицензией Открытая лицензия на модель NVIDIA Nemotron. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.

Альтернативы и варианты одного поколения

NVIDIA Nemotron 3 Ultra 550B-A55B, NVIDIA Nemotron 3.5 Lightning 30B-A3B, NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4

История версии

nvidia/nemotron/nemotron-3-super-120b-a12b

Сведения об источнике

Официальный источник

Ревизия источника: 680e0e5a3131d196ec831e0f1d320c7e0a5405faac89108daf9591babe14134c

Частые вопросы

Сколько VRAM требуется для NVIDIA Nemotron 3 Super 120B-A12B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают NVIDIA Nemotron 3 Super 120B-A12B?

Официальные подтверждения сертифицированы для transformers, tensorrt-llm.

Можно ли использовать NVIDIA Nemotron 3 Super 120B-A12B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Открытая лицензия на модель NVIDIA Nemotron.

Официальные источники

Последняя проверка: 2026-08-26