Перейти к основному содержимому

IBM Granite · Общий · Granite 4.2

Granite 4.2 30B: характеристики, требования к GPU, хостинг и развертывание

Granite 4.2 30B — версия Текущий направления Общий семейства IBM Granite, подтвержденная официальной ревизией.

Техническая схема развертывания Granite 4.2 30B
Эталонный поток; точные данные указаны отдельно.
Всего параметров30,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииТекущий · Текущий
АрхитектураGraniteForCausalLM
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2026-08-25

Архитектура, преимущества и сценарии

Granite 4.2 30B — официальная модель IBM для самостоятельного хостинга в направлении IBM Granite Общий. Архитектура GraniteForCausalLM, 30B и проверенный контекст 131,072 токенов.

Granite 4.2 30B использует GraniteForCausalLM с 30B. Профиль содержит 64 слоев, ширину 4096 и 32 голов внимания, если они опубликованы.

Проверенная архитектура GraniteForCausalLM
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

granite-4.2-30b

ibm-granite/granite-4.2-30b

Официальный · BF16 · safetensors

Проверенная среда выполнения: SGLang Transformers vLLM

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов57.56 GB
KV-кэш2 GB
Накладные расходы среды выполнения15.44 GB
Итого с запасом92.99 GB

Рекомендуемое соотношение цены и качества

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

67.01 GB запаса · Доступно

USD 1 830 / месяц

Самый дешевый подходящий вариант

4× NVIDIA L4 24GB

96 GB общая VRAM · pcie

3.01 GB запаса · Доступно

USD 1 000 / месяц

Максимальная производительность

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

67.01 GB запаса · Доступно

USD 1 830 / месяц

Лицензия и самостоятельный хостинг

Все 30 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Granite 4.2 30B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

Альтернативы и варианты одного поколения

Granite 4.2 8B, Granite 4.2 3B, Granite 4.1 30B

История версии

Частые вопросы

Сколько VRAM требуется для Granite 4.2 30B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Granite 4.2 30B?

Официальные подтверждения сертифицированы для transformers, vllm, sglang.

Можно ли использовать Granite 4.2 30B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.

Официальные источники

Последняя проверка: 2026-08-26