跳到主要内容

ERNIE · 通用 · ERNIE 4.5

ERNIE 4.5 300B-A47B:规格、GPU 需求、托管与部署

ERNIE 4.5 300B-A47B 是 ERNIE 家族通用分支中的当前版本,并由官方修订认证。

ERNIE 4.5 300B-A47B 技术部署示意图
参考部署流程;精确架构事实另行列出。
总参数300.0B
激活参数47.0B
上下文窗口131,072 tokens
版本状态当前 · 当前
架构Ernie4_5_MoeForCausalLM
模态文本
许可证apache-2.0
部署状态具备认证配置,可部署
商业状态允许商业使用
发布日期2025-06-28

架构、优势与用途

ERNIE 4.5 300B-A47B 是 Baidu 在 ERNIE 通用分支中的官方可自托管版本,采用 Ernie4_5_MoeForCausalLM、300B / 47B MoE,认证上下文为 131,072 Token。

ERNIE 4.5 300B-A47B 使用 Ernie4_5_MoeForCausalLM 和 300B / 47B MoE。官方资料发布时记录 54 层、隐藏维度 8192 和 64 个注意力头。

已验证的 Ernie4_5_MoeForCausalLM 架构
131,072 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理

已认证检查点与量化

仅显示与此版本关联并经来源认证的精确变体。

ERNIE-4.5-300B-A47B-Paddle

baidu/ERNIE-4.5-300B-A47B-Paddle

官方 · BF16 · safetensors

已验证运行环境: Fastdeploy

精度 / 量化格式位数发布者可信度部署状态
BF16safetensors16官方已验证运行环境

推荐硬件

仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。

估算权重内存575.56 GB
KV 缓存1.69 GB
运行时开销146.38 GB
含安全余量总计897.3 GB
技术兼容参考配置

当前 FusionPointAI 库存没有同时通过此检查点的运行时、架构、拓扑和内存检查。请使用估算器查看全球兼容硬件。

许可证与自托管注意事项

全部 300 B 常驻权重必须装入所选 GPU;上下文与并发会增加 KV 缓存。

ERNIE 4.5 300B-A47B 采用 apache-2.0 发布,并保留版本级官方 URL 与验证日期。

允许商业使用. 官方许可允许商业使用,但仍须遵守其全部义务。

替代方案与同代变体

ERNIE 4.5 21B-A3B

发布历程

baidu/ernie/ernie-4-5-300b-a47b

来源详情

官方来源

来源修订版本: 454d7e56cd1683c0b6255bb89c949b47f8d8c99c917c849b57a632836d71522a

常见问题

ERNIE 4.5 300B-A47B 需要多少 VRAM?

估算取决于精度、上下文和并发,并使用认证数据。

哪些运行时支持 ERNIE 4.5 300B-A47B?

fastdeploy 已有认证的上游证据。

ERNIE 4.5 300B-A47B 可用于商业用途吗?

存储分类为允许商业使用;请查阅官方 apache-2.0 条款。

官方来源

最近验证: 2026-09-03