Готов к инженерной работе
Производственный пакет FP8 для модели Ministral 3 8B Instruct 2512
Mistral / Ministral 3 8B Instruct 2512 · fp8 · Статус инженерной работы: Готов к инженерной работе
Происхождение преобразования
Прозрачная цена
- Инженерия базовой моделиUSD 17 400
- Квантизация FP8USD 5 900
- Подготовка среды выполненияUSD 2 800
- Оценка и сравнительное тестированиеUSD 3 600
- Скачать пакетUSD 1 500
- Настройка управляемого развёртыванияUSD 3 200
- Разовые инженерные работыUSD 34 400
Ежемесячный хостинг
- 1 x NVIDIA H100 SXM 80GBUSD 1 860
- Ежемесячный хостингUSD 1 860
Исходная версия
- Семейство модели
- Mistral
- Базовый релиз
- Ministral 3 8B Instruct 2512
- Тип пакета
- Квантованный
- Точность исходной модели
- Не указано
- Целевая точность
- FP8
- Статус инженерной работы
- Готов к инженерной работе
- Статус заказа
- Доступно для заказа
Предусмотренные материалы
Не указано
Соответствие объёму памяти GPU
Расчётный объём весов модели: 8.72 GB
Расчётный объём KV-кэша: 2 GB
Расчётный требуемый объём видеопамяти: 17.67 GB
Расчётный доступный объём видеопамяти: 80 GB
Статус измерений
Только оценка
Для этого пакета не сохранены результаты измеренных тестов производительности.
Ограничения поставки
Настроенная поставка: Скачать и разместить
Варианты поставки: Скачать пакет / Хостинг FusionPointAI / Скачать и разместить
Происхождение преобразования
Точность исходной модели: Не указано
Целевая точность: FP8
Операции преобразования: Квантизация FP8, Подготовка среды выполнения, Оценка и сравнительное тестирование
Топология GPU
Целевая GPU: NVIDIA H100 SXM 80GB
Количество GPU: 1
Подготовка среды выполнения: transformers