Mistral / Mistral Small 4 119B A6B

Квантование NVFP4 для Mistral Small 4 119B A6B

Опубликованные показатели предварительные; технические измерения выполняются для выбранной модели и оборудования.

До → После

Базовый релизПроверенный чекпойнт
119.000B

КвантизацияNVFP4
Цель сохранения качества

Производственный артефактАртефакт
Отчёт о происхождении модели и результатах тестирования

Веса и KV-кэш

Расчет до измерения в ходе инженерной работы

Расчётная VRAM

Измеренные и сертифицированные результаты предоставляются вместе с проектом.

Подготовка среды выполнения

transformers, vllm, sglang

Сейчас недоступно для заказа