ERNIE-4.5-VL-28B-A3B-Thinking
baidu/ERNIE-4.5-VL-28B-A3B-Thinking
官方 · BF16 · safetensors
已验证运行环境: Transformers vLLM Fastdeploy
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 官方 | 已验证运行环境 |
总参数28.0B
激活参数3.0B
上下文窗口131,072 tokens
版本状态当前 · 当前
架构Ernie4_5_VLMoeForConditionalGeneration
模态多模态
许可证apache-2.0
部署状态具备认证配置，可部署
商业状态允许商业使用
发布日期2025-11-07
架构、优势与用途
ERNIE 4.5 VL 28B-A3B Thinking 是 Baidu 在 ERNIE 视觉分支中的官方可自托管版本，采用 Ernie4_5_VLMoeForConditionalGeneration、28B / 3B MoE，认证上下文为 131,072 Token。
ERNIE 4.5 VL 28B-A3B Thinking 使用 Ernie4_5_VLMoeForConditionalGeneration 和 28B / 3B MoE。官方资料发布时记录 28 层、隐藏维度 2560 和 20 个注意力头。
已验证的 Ernie4_5_VLMoeForConditionalGeneration 架构
131,072 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理
已认证检查点与量化
仅显示与此版本关联并经来源认证的精确变体。
推荐硬件
仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。
估算权重内存53.72 GB
KV 缓存0.44 GB
运行时开销14.47 GB
含安全余量总计85.09 GB
推荐性价比方案
2× NVIDIA A100 SXM 80GB
160 GB 总 VRAM · nvlink
74.91 GB 余量 · 可用
USD 1,830 / 月最低成本可行方案
4× NVIDIA L4 24GB
96 GB 总 VRAM · pcie
10.91 GB 余量 · 可用
USD 1,000 / 月最高性能
2× NVIDIA A100 SXM 80GB
160 GB 总 VRAM · nvlink
74.91 GB 余量 · 可用
USD 1,830 / 月许可证与自托管注意事项
全部 28 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。
ERNIE 4.5 VL 28B-A3B Thinking 采用 apache-2.0 发布，并保留版本级官方 URL 与验证日期。
允许商业使用. 官方许可允许商业使用，但仍须遵守其全部义务。
替代方案与同代变体
ERNIE 4.5 VL 424B-A47B
发布历程
baidu/ernie/ernie-4-5-vl-28b-a3b-thinking
常见问题
ERNIE 4.5 VL 28B-A3B Thinking 需要多少 VRAM？
估算取决于精度、上下文和并发，并使用认证数据。
哪些运行时支持 ERNIE 4.5 VL 28B-A3B Thinking？
transformers, vllm, fastdeploy 已有认证的上游证据。
ERNIE 4.5 VL 28B-A3B Thinking 可用于商业用途吗？
存储分类为允许商业使用；请查阅官方 apache-2.0 条款。
官方来源
最近验证: 2026-09-03