Перейти к основному содержимому

Mistral · Компактная универсальная модель · Mistral Small 4

Mistral Small 4 119B A6B: характеристики, требования к GPU, хостинг и развертывание

Mistral Small 4 119B A6B — версия Текущий направления Компактная универсальная модель семейства Mistral, подтвержденная официальной ревизией.

Техническая схема развертывания Mistral Small 4 119B A6B
Эталонный поток; точные данные указаны отдельно.
Всего параметров119,0B
Активные параметры6,0B
Окно контекста1 048 576 tokens
Статус версииТекущий · Текущий
АрхитектураMistral3ForConditionalGeneration
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2026-01-23

Архитектура, преимущества и сценарии

Mistral Small 4 119B A6B — официальная модель Mistral AI для самостоятельного хостинга в направлении Mistral Компактная универсальная модель. Архитектура Mistral3ForConditionalGeneration, 119B / 6B MoE и проверенный контекст 1,048,576 токенов.

Mistral Small 4 119B A6B использует Mistral3ForConditionalGeneration с 119B / 6B MoE. Профиль содержит 36 слоев, ширину 4096 и 32 голов внимания, если они опубликованы.

Проверенная архитектура Mistral3ForConditionalGeneration
Сертифицированный контекст 1,048,576 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

Mistral-Small-4-119B-2603

mistralai/Mistral-Small-4-119B-2603

Официальный · FP8 · safetensors

Проверенная среда выполнения: Transformers vLLM SGLang

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
FP8safetensors8ОфициальныйПроверенная среда выполнения

Mistral-Small-4-119B-2603-NVFP4

mistralai/Mistral-Small-4-119B-2603-NVFP4

Официальный · NVFP4 · safetensors

Проверенная среда выполнения: Transformers vLLM SGLang

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
NVFP4safetensors4ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов114.15 GB
KV-кэш2.25 GB
Накладные расходы среды выполнения37.8 GB
Итого с запасом191.21 GB

Рекомендуемое соотношение цены и качества

3× NVIDIA H100 SXM 80GB

240 GB общая VRAM · nvswitch

48.79 GB запаса · Доступно

USD 5 580 / месяц

Самый дешевый подходящий вариант

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

90.79 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Максимальная производительность

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

90.79 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Лицензия и самостоятельный хостинг

Все 119 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Mistral Small 4 119B A6B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

История версии

Частые вопросы

Сколько VRAM требуется для Mistral Small 4 119B A6B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Mistral Small 4 119B A6B?

Официальные подтверждения сертифицированы для transformers, vllm, sglang.

Можно ли использовать Mistral Small 4 119B A6B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.

Официальные источники

Последняя проверка: 2026-08-26