Перейти к основному содержимому

Mistral · Универсальная модель среднего размера · Mistral Medium 3.5

Mistral Medium 3.5 128B: характеристики, требования к GPU, хостинг и развертывание

Mistral Medium 3.5 128B — версия Текущий направления Универсальная модель среднего размера семейства Mistral, подтвержденная официальной ревизией.

Техническая схема развертывания Mistral Medium 3.5 128B
Эталонный поток; точные данные указаны отдельно.
Всего параметров128,0B
Активные параметрыПлотная модель
Окно контекста262 144 tokens
Статус версииТекущий · Текущий
АрхитектураMistral3ForConditionalGeneration
МодальностиТекст
ЛицензияМодифицированная лицензия MIT
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2026-03-31

Архитектура, преимущества и сценарии

Mistral Medium 3.5 128B — официальная модель Mistral AI для самостоятельного хостинга в направлении Mistral Универсальная модель среднего размера. Архитектура Mistral3ForConditionalGeneration, 128B и проверенный контекст 262,144 токенов.

Mistral Medium 3.5 128B использует Mistral3ForConditionalGeneration с 128B. Профиль содержит 88 слоев, ширину 12288 и 96 голов внимания, если они опубликованы.

Проверенная архитектура Mistral3ForConditionalGeneration
Сертифицированный контекст 262,144 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

Mistral-Medium-3.5-128B

mistralai/Mistral-Medium-3.5-128B

Официальный · FP8 · safetensors

Проверенная среда выполнения: Transformers vLLM SGLang

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
FP8safetensors8ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов122.79 GB
KV-кэш1.38 GB
Накладные расходы среды выполнения40.47 GB
Итого с запасом204.15 GB

Рекомендуемое соотношение цены и качества

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

77.85 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Самый дешевый подходящий вариант

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

77.85 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Максимальная производительность

2× NVIDIA H200 SXM 141GB

282 GB общая VRAM · nvswitch

77.85 GB запаса · Ограниченная мощность

USD 4 690 / месяц

Лицензия и самостоятельный хостинг

Все 128 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Mistral Medium 3.5 128B опубликована под лицензией Модифицированная лицензия MIT. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.

Альтернативы и варианты одного поколения

Mistral-Medium-3.5-128B, Mistral-Medium-3.5-128B-NVFP4, Mistral-Medium-3.5-128B-EAGLE

История версии

Частые вопросы

Сколько VRAM требуется для Mistral Medium 3.5 128B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Mistral Medium 3.5 128B?

Официальные подтверждения сертифицированы для transformers, vllm, sglang.

Можно ли использовать Mistral Medium 3.5 128B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Модифицированная лицензия MIT.

Официальные источники

Последняя проверка: 2026-08-26