NVIDIA Nemotron / NVIDIA Nemotron 3.5 Lightning 30B-A3B
Квантование BF16 для NVIDIA Nemotron 3.5 Lightning 30B-A3B
Опубликованные показатели предварительные; технические измерения выполняются для выбранной модели и оборудования.
До → После
Базовый релизПроверенный чекпойнт
30.000B
30.000B
КвантизацияBF16
Цель сохранения качества
Цель сохранения качества
Производственный артефактАртефакт
Отчёт о происхождении модели и результатах тестирования
Отчёт о происхождении модели и результатах тестирования
Выбор GPU
Веса и KV-кэшРасчет до измерения в ходе инженерной работы
Расчётная VRAMИзмерено
Подготовка среды выполненияtransformers
Прозрачная цена
Сейчас недоступно для заказа