Перейти к основному содержимому

OLMo · Общий · OLMo 2

OLMo 2 32B: характеристики, требования к GPU, хостинг и развертывание

OLMo 2 32B — версия Недавний направления Общий семейства OLMo, подтвержденная официальной ревизией.

Техническая схема развертывания OLMo 2 32B
Эталонный поток; точные данные указаны отдельно.
Всего параметров32,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииНедавний · Недавний
АрхитектураDense Transformer
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-03-12

Архитектура, преимущества и сценарии

OLMo 2 32B — официальная модель Allen AI для самостоятельного хостинга в направлении OLMo Общий. Архитектура Dense Transformer, 32B и проверенный контекст 131,072 токенов.

OLMo 2 32B использует Dense Transformer с 32B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.

Проверенная архитектура Dense Transformer
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

OLMo-2-0325-32B-Instruct

allenai/OLMo-2-0325-32B-Instruct

Официальный · BF16 · safetensors

Проверенная среда выполнения: Transformers

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов61.39 GB
KV-кэш2 GB
Накладные расходы среды выполнения16.13 GB
Итого с запасом98.61 GB

Рекомендуемое соотношение цены и качества

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

61.39 GB запаса · Доступно

USD 1 830 / месяц

Самый дешевый подходящий вариант

5× NVIDIA L4 24GB

120 GB общая VRAM · pcie

21.39 GB запаса · Доступно

USD 1 250 / месяц

Максимальная производительность

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

61.39 GB запаса · Доступно

USD 1 830 / месяц

Лицензия и самостоятельный хостинг

Все 32 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

OLMo 2 32B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

Альтернативы и варианты одного поколения

OLMo 3.1 32B Instruct

История версии

allenai/olmo/olmo-2-32b

Сведения об источнике

Официальный источник

Ревизия источника: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572

Частые вопросы

Сколько VRAM требуется для OLMo 2 32B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают OLMo 2 32B?

Официальные подтверждения сертифицированы для transformers.

Можно ли использовать OLMo 2 32B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.

Официальные источники

Последняя проверка: 2026-08-26