IBM Granite · 通用 · Granite 4.2

Granite 4.2 8B：规格、GPU 需求、托管与部署

Granite 4.2 8B 是 IBM Granite 家族通用分支中的当前版本，并由官方修订认证。

计算建议定制模型企业模型转换比较此模型

Granite 4.2 8B 技术部署示意图 — 参考部署流程；精确架构事实另行列出。

总参数8.0B

激活参数密集模型

上下文窗口131,072 tokens

版本状态当前 · 当前

架构GraniteForCausalLM

模态文本

许可证Apache 2.0 许可证

部署状态具备认证配置，可部署

商业状态允许商业使用

发布日期2026-08-25

架构、优势与用途

Granite 4.2 8B 是 IBM 在 IBM Granite 通用分支中的官方可自托管版本，采用 GraniteForCausalLM、8B，认证上下文为 131,072 词元。

Granite 4.2 8B 使用 GraniteForCausalLM 和 8B。官方资料发布时记录 40 层、隐藏维度 4096 和 32 个注意力头。

已验证的 GraniteForCausalLM 架构

131,072 词元认证上下文

官方检查点来源

私有 LLM 推理

智能体工作流

长文档处理

已认证检查点与量化

仅显示与此版本关联并经来源认证的精确变体。

granite-4.2-8b

ibm-granite/granite-4.2-8b

官方 · BF16 · safetensors

已验证运行环境: SGLang Transformers vLLM

精度 / 量化	格式	位数	发布者可信度	部署状态
BF16	safetensors	16	官方	已验证运行环境

许可证与自托管注意事项

全部 8 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。

Granite 4.2 8B 采用 Apache 2.0 许可证发布，并保留版本级官方 URL 与验证日期。

允许商业使用. 官方许可允许商业使用，但仍须遵守其全部义务。

替代方案与同代变体

Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B

发布历程

ibm/granite/granite-4-2-8b @ cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78

2026-09-03

官方来源

常见问题

Granite 4.2 8B 需要多少 VRAM？

估算取决于精度、上下文和并发，并使用认证数据。

哪些运行时支持 Granite 4.2 8B？

transformers, vllm, sglang 已有认证的上游证据。

Granite 4.2 8B 可用于商业用途吗？

存储分类为允许商业使用；请查阅官方 Apache 2.0 许可证条款。

官方来源

最近验证: 2026-08-26

Granite 4.2 8B：规格、GPU 需求、托管与部署

架构、优势与用途

已认证检查点与量化

granite-4.2-8b

推荐硬件

1× NVIDIA A100 SXM 80GB

2× NVIDIA L4 24GB

1× NVIDIA H200 SXM 141GB

许可证与自托管注意事项

替代方案与同代变体

发布历程

ibm/granite/granite-4-2-8b @ cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78

常见问题

官方来源