跳到主要内容

GLM · 视觉 · GLM-4.6V

GLM-4.6V Flash:规格、GPU 需求、托管与部署

GLM-4.6V Flash 是 GLM 家族视觉分支中的当前版本,并由官方修订认证。

GLM-4.6V Flash 技术部署示意图
参考部署流程;精确架构事实另行列出。
总参数10.3B
激活参数密集模型
上下文窗口131,072 tokens
版本状态当前 · 当前
架构Glm4vForConditionalGeneration
模态多模态
许可证mit
部署状态具备认证配置,可部署
商业状态允许商业使用
发布日期2025-12-07

架构、优势与用途

GLM-4.6V Flash 是 Z.ai 在 GLM 视觉分支中的官方可自托管版本,采用 Glm4vForConditionalGeneration、10.29B,认证上下文为 131,072 Token。

GLM-4.6V Flash 使用 Glm4vForConditionalGeneration 和 10.29B。官方资料发布时记录 40 层、隐藏维度 4096 和 32 个注意力头。

已验证的 Glm4vForConditionalGeneration 架构
131,072 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理

已认证检查点与量化

仅显示与此版本关联并经来源认证的精确变体。

GLM-4.6V-Flash

zai-org/GLM-4.6V-Flash

官方 · BF16 · safetensors

已验证运行环境: SGLang Transformers vLLM

精度 / 量化格式位数发布者可信度部署状态
BF16safetensors16官方已验证运行环境

推荐硬件

仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。

估算权重内存19.74 GB
KV 缓存0.31 GB
运行时开销8.33 GB
含安全余量总计35.2 GB

推荐性价比方案

1× NVIDIA H200 SXM 141GB

141 GB 总 VRAM · nvswitch

105.8 GB 余量 · 容量有限

USD 2,345 / 月

最低成本可行方案

2× NVIDIA L4 24GB

48 GB 总 VRAM · pcie

12.8 GB 余量 · 可用

USD 500 / 月

最高性能

1× NVIDIA H200 SXM 141GB

141 GB 总 VRAM · nvswitch

105.8 GB 余量 · 容量有限

USD 2,345 / 月

许可证与自托管注意事项

全部 10.29 B 常驻权重必须装入所选 GPU;上下文与并发会增加 KV 缓存。

GLM-4.6V Flash 采用 mit 发布,并保留版本级官方 URL 与验证日期。

允许商业使用. 官方许可允许商业使用,但仍须遵守其全部义务。

替代方案与同代变体

GLM-4.6V, GLM-4.5V

发布历程

zai/glm/glm-4-6v-flash

来源详情

官方来源

来源修订版本: 01889dafc2091bf309d7e0a6671c37c0cfe0602819c9dd67c4a2ceac055056e6

常见问题

GLM-4.6V Flash 需要多少 VRAM?

估算取决于精度、上下文和并发,并使用认证数据。

哪些运行时支持 GLM-4.6V Flash?

transformers, vllm, sglang 已有认证的上游证据。

GLM-4.6V Flash 可用于商业用途吗?

存储分类为允许商业使用;请查阅官方 mit 条款。

官方来源

最近验证: 2026-09-03