granite-4.1-30b
Официальный · BF16 · safetensors
Проверенная среда выполнения: Transformers
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Официальный | Проверенная среда выполнения |
IBM Granite · Общий · Granite 4.1
Granite 4.1 30B: характеристики, требования к GPU, хостинг и развертывание
Granite 4.1 30B — версия Недавний направления Общий семейства IBM Granite, подтвержденная официальной ревизией.
Всего параметров28,9B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииНедавний · Недавний
АрхитектураGraniteForCausalLM
МодальностиТекст
Лицензияapache-2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2026-04-06
Архитектура, преимущества и сценарии
Granite 4.1 30B — официальная модель IBM для самостоятельного хостинга в направлении IBM Granite Общий. Архитектура GraniteForCausalLM, 28.9B и проверенный контекст 131,072 токенов.
Granite 4.1 30B использует GraniteForCausalLM с 28.9B. Профиль содержит 64 слоев, ширину 4096 и 32 голов внимания, если они опубликованы.
Проверенная архитектура GraniteForCausalLM
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов55.45 GB
KV-кэш2 GB
Накладные расходы среды выполнения15.06 GB
Итого с запасом89.91 GB
Рекомендуемое соотношение цены и качества
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
70.09 GB запаса · Доступно
USD 1 830 / месяцСамый дешевый подходящий вариант
4× NVIDIA L4 24GB
96 GB общая VRAM · pcie
6.09 GB запаса · Доступно
USD 1 000 / месяцМаксимальная производительность
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
70.09 GB запаса · Доступно
USD 1 830 / месяцЛицензия и самостоятельный хостинг
Все 28.9 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
Granite 4.1 30B опубликована под лицензией apache-2.0. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.
Альтернативы и варианты одного поколения
Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B
История версии
ibm/granite/granite-4-1-30b
Сведения об источнике
Ревизия источника: c9d5fa2930a611bb481573dc233b242ee8f2b45f60d32c68ce6bb1bd80e1be0c
Частые вопросы
Сколько VRAM требуется для Granite 4.1 30B?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают Granite 4.1 30B?
Официальные подтверждения сертифицированы для transformers.
Можно ли использовать Granite 4.1 30B коммерчески?
Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия apache-2.0.
Официальные источники
Последняя проверка: 2026-09-03