跳到主要内容

IBM Granite · 通用 · granite-4-2-3b

granite-4.2-3b-fp8:规格、GPU 需求、托管与部署

granite-4.2-3b-fp8 是 IBM Granite 家族通用分支中的近期版本,并由官方修订认证。

仅供参考 比较此模型
granite-4.2-3b-fp8 技术部署示意图
参考部署流程;精确架构事实另行列出。
总参数制造商未发布
激活参数密集模型
上下文窗口不适用 / 不可直接比较
版本状态近期 · 近期
架构
模态文本
许可证apache-2.0
部署状态仅供参考
商业状态允许商业使用
发布日期

架构、优势与用途

granite-4.2-3b-fp8 是 IBM 在 IBM Granite 通用分支中的官方可自托管版本,采用制造商未发布、制造商未发布,认证上下文为 0 词元。

granite-4.2-3b-fp8 使用制造商未发布和制造商未发布。官方资料发布时记录 N/A 层、隐藏维度 N/A 和 N/A 个注意力头。

已验证的制造商未发布架构
官方检查点来源
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理

已认证检查点与量化

仅显示与此版本关联并经来源认证的精确变体。

推荐硬件

仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。

仅供参考

官方许可允许商业使用,但仍须遵守其全部义务。

许可证与自托管注意事项

全部 0 B 常驻权重必须装入所选 GPU;上下文与并发会增加 KV 缓存。

granite-4.2-3b-fp8 采用 apache-2.0 发布,并保留版本级官方 URL 与验证日期。

允许商业使用. 官方许可允许商业使用,但仍须遵守其全部义务。

替代方案与同代变体

granite-4.2-3b, granite-4.2-3b-GGUF, granite-4.2-3b-nvfp4, granite-4.2-3b-mxfp4, granite-4.1-30b-fp8, granite-4.1-30b-GGUF, Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

发布历程

ibm/granite/granite-42-3b-fp8 @ 6f3e2b6caad002f9daf7726d085987d8a97d1993216336c9dddc7fbe8f642b7f

官方来源

常见问题

granite-4.2-3b-fp8 需要多少 VRAM?

估算取决于精度、上下文和并发,并使用认证数据。

哪些运行时支持 granite-4.2-3b-fp8?

制造商未发布已有认证的上游证据。

granite-4.2-3b-fp8 可用于商业用途吗?

存储分类为允许商业使用;请查阅官方 apache-2.0 条款。

官方来源

最近验证: 2026-09-03