Olmo-3.1-32B-Instruct
Официальный · BF16 · safetensors
Проверенная среда выполнения: Transformers
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Официальный | Проверенная среда выполнения |
OLMo · Общий · OLMo 3.1
OLMo 3.1 32B Instruct: характеристики, требования к GPU, хостинг и развертывание
OLMo 3.1 32B Instruct — версия Текущий направления Общий семейства OLMo, подтвержденная официальной ревизией.
Всего параметров32,2B
Активные параметрыПлотная модель
Окно контекста65 536 tokens
Статус версииТекущий · Текущий
АрхитектураOlmo3ForCausalLM
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-12-10
Архитектура, преимущества и сценарии
OLMo 3.1 32B Instruct — официальная модель Allen AI для самостоятельного хостинга в направлении OLMo Общий. Архитектура Olmo3ForCausalLM, 32.2B и проверенный контекст 65,536 токенов.
OLMo 3.1 32B Instruct использует Olmo3ForCausalLM с 32.2B. Профиль содержит 64 слоев, ширину 5120 и 40 голов внимания, если они опубликованы.
Проверенная архитектура Olmo3ForCausalLM
Сертифицированный контекст 65,536 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов61.78 GB
KV-кэш2 GB
Накладные расходы среды выполнения16.2 GB
Итого с запасом99.17 GB
Рекомендуемое соотношение цены и качества
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
60.83 GB запаса · Доступно
USD 1 830 / месяцСамый дешевый подходящий вариант
5× NVIDIA L4 24GB
120 GB общая VRAM · pcie
20.83 GB запаса · Доступно
USD 1 250 / месяцМаксимальная производительность
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
60.83 GB запаса · Доступно
USD 1 830 / месяцЛицензия и самостоятельный хостинг
Все 32.2 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
OLMo 3.1 32B Instruct опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.
Альтернативы и варианты одного поколения
OLMo 2 32B
История версии
allenai/olmo/olmo-3-1-32b-instruct
Сведения об источнике
Ревизия источника: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb
Частые вопросы
Сколько VRAM требуется для OLMo 3.1 32B Instruct?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают OLMo 3.1 32B Instruct?
Официальные подтверждения сертифицированы для transformers.
Можно ли использовать OLMo 3.1 32B Instruct коммерчески?
Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.
Официальные источники
Последняя проверка: 2026-08-26