跳到主要内容

IBM · 文本

IBM Granite 模型：版本、规格、GPU 需求与托管

IBM Granite 是 IBM 的经来源验证、可自托管模型家族，并按官方分支和版本组织。

当前版本 浏览工程服务 比较模型
IBM Granite 技术部署示意图
参考部署流程；精确架构事实另行列出。

概览与历史

IBM Granite 页面使用已验证的版本、检查点、许可证、运行时与硬件证据。通用分支将同代及专用变体与时间代际分开。

FusionPointAI 跟踪 IBM Granite 的 12 个经来源验证的公开版本。当前、近期、上一代和旧版状态均在各模型分支内独立评估。

已验证的开放权重部署路径
可追溯的检查点来源
模型感知硬件规划

架构与模型范围

公开认证范围为 3 B 至 30 B 总参数，上下文最高 131,072 词元。密集与 MoE 版本分别标识。

公开版本12
模型分支1
当前代Granite 4.2 30B
最近验证2026-09-03T00:00:00.000000Z

代际、分支与变体

通用

Granite 3.3

上一代
Granite 3.3 8B

8.0B 参数 · 131,072 上下文

稠密 Dense Transformer

granite-4-2-3b

近期一代 5 个同代变体
granite-4.2-3b

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

基础版
granite-4.2-3b-fp8

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化
granite-4.2-3b-nvfp4

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化
granite-4.2-3b-mxfp4

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化
granite-4.2-3b-GGUF

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化

Granite 4.1

近期一代
Granite 4.1 30B

28.9B 参数 · 131,072 上下文

稠密 GraniteForCausalLM

granite-4-1-30b

近期一代 2 个同代变体
granite-4.1-30b-GGUF

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化
granite-4.1-30b-fp8

制造商未发布 参数 · 不适用 / 不可直接比较 上下文

量化

Granite 4.2

当前一代 3 个同代变体
Granite 4.2 8B

8.0B 参数 · 131,072 上下文

推理 · 稠密 GraniteForCausalLM
Granite 4.2 3B

3.0B 参数 · 131,072 上下文

推理 · 稠密 GraniteForCausalLM
Granite 4.2 30B

30.0B 参数 · 131,072 上下文

推理 · 稠密 GraniteForCausalLM

部署生态

硬件估算前请选择具体 IBM Granite 版本和认证检查点。未知运行时会被排除，全球兼容性与可租库存保持分离。

请验证许可证、运行时版本、精度 kernel、上下文、并发与拓扑。MoE 常驻内存使用全部存储权重。

常见用途

私有推理服务
受控模型评估
企业部署规划

许可证概览

许可证按版本认证，不从提供商推断。商业部署前请查看版本页面。

商业使用状态基于来源，不构成法律建议。请遵循官方许可证。

发布历程

ibm/granite/granite-41-30b-gguf @ a4a42312a56a3dff29f67d89361b375e5f1efa375fc7607cc1417ea127727e3c

官方来源

ibm/granite/granite-41-30b-fp8 @ 2006d06729657c5b131fc9971f6d5dabf272bdbd3293c646dd4e134414edaeae

官方来源

ibm/granite/granite-4-1-30b @ c9d5fa2930a611bb481573dc233b242ee8f2b45f60d32c68ce6bb1bd80e1be0c

官方来源

ibm/granite/granite-42-3b-gguf @ 83f847c71f7e86c289128785baf06d0ec25033683ea92012d230707afbb6f01e

官方来源

ibm/granite/granite-42-3b-nvfp4 @ e9aa554262fef214b1a003c3a759526ab710f48e3517b08308a9e64bc67e557a

官方来源

ibm/granite/granite-42-3b-mxfp4 @ d523d0dbb104704c5418a46a1b77d8586f5dd7e866b607c11584366178f689fc

官方来源

ibm/granite/granite-42-3b-fp8 @ 6f3e2b6caad002f9daf7726d085987d8a97d1993216336c9dddc7fbe8f642b7f

官方来源

ibm/granite/granite-3-3-8b @ 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468

官方来源

ibm/granite/granite-4-2-30b @ 37162f41301604396463c91856e5c7bdfaf69aaab7a36920fee97fedd14fa694

官方来源

ibm/granite/granite-4-2-8b @ cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78

官方来源

ibm/granite/granite-4-2-3b @ dd9a1fe61833ecf5e9963237b60da9469bf3d5cf750bd93cde2c2997bb74da98

官方来源

ibm/granite/granite-42-3b @ e01442b49f274eabb1750952a68ef40b032c48a6bff7dc8d1120c4ba80881aa1

官方来源

ibm-granite/granite-4.2-3b @ 2026-08-25T18:42:47Z

官方来源

常见问题

哪个 IBM Granite 版本是当前版本？

当前版本为 Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B，并在各自分支内评估。

IBM Granite 可以自托管吗？

只有具备已验证官方检查点和受支持运行时的版本才标记为可部署。

IBM Granite 应使用哪种 GPU？

选择取决于变体、精度、上下文与并发。请使用版本级建议。

官方来源

最近验证: 2026-09-03