granite-4.2-3b
Официальный · BF16 · safetensors
Проверенная среда выполнения: SGLang Transformers vLLM
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Официальный | Проверенная среда выполнения |
IBM Granite · Общий · Granite 4.2
Granite 4.2 3B: характеристики, требования к GPU, хостинг и развертывание
Granite 4.2 3B — версия Текущий направления Общий семейства IBM Granite, подтвержденная официальной ревизией.
Всего параметров3,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииТекущий · Текущий
АрхитектураGraniteForCausalLM
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2026-08-25
Архитектура, преимущества и сценарии
Granite 4.2 3B — официальная модель IBM для самостоятельного хостинга в направлении IBM Granite Общий. Архитектура GraniteForCausalLM, 3B и проверенный контекст 131,072 токенов.
Granite 4.2 3B использует GraniteForCausalLM с 3B. Профиль содержит 40 слоев, ширину 2560 и 40 голов внимания, если они опубликованы.
Проверенная архитектура GraniteForCausalLM
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов5.76 GB
KV-кэш0.63 GB
Накладные расходы среды выполнения5.87 GB
Итого с запасом15.19 GB
Рекомендуемое соотношение цены и качества
1× NVIDIA A100 SXM 80GB
80 GB общая VRAM · nvlink
64.81 GB запаса · Доступно
USD 915 / месяцСамый дешевый подходящий вариант
1× NVIDIA L4 24GB
24 GB общая VRAM · pcie
8.81 GB запаса · Доступно
USD 250 / месяцМаксимальная производительность
1× NVIDIA H200 SXM 141GB
141 GB общая VRAM · nvswitch
125.81 GB запаса · Ограниченная мощность
USD 2 345 / месяцЛицензия и самостоятельный хостинг
Все 3 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
Granite 4.2 3B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.
Альтернативы и варианты одного поколения
Granite 4.2 30B, Granite 4.2 8B, Granite 4.1 30B
История версии
ibm/granite/granite-4-2-3b
Сведения об источнике
Ревизия источника: dd9a1fe61833ecf5e9963237b60da9469bf3d5cf750bd93cde2c2997bb74da98
Частые вопросы
Сколько VRAM требуется для Granite 4.2 3B?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают Granite 4.2 3B?
Официальные подтверждения сертифицированы для transformers, vllm, sglang.
Можно ли использовать Granite 4.2 3B коммерчески?
Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.
Официальные источники
Последняя проверка: 2026-08-26