ERNIE-4.5-21B-A3B-Paddle
baidu/ERNIE-4.5-21B-A3B-Paddle
رسمي · BF16 · safetensors
اجرا چاپېریال تایید شوی: Fastdeploy
| Precision / quantization | بڼه | بټونه | پر خپروونکي باور | د ځایپرځای کولو حالت |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | اجرا چاپېریال تایید شوی |
ERNIE · عمومي · ERNIE 4.5
ERNIE 4.5 21B-A3B: ځانګړنې، د GPU اړتیاوې، کوربهتوب او ځایپرځای کول
ERNIE 4.5 21B-A3B is a current General release in the ERNIE family, certified from its immutable official source revision.
ټول پارامېټرونه۲۱٫۰B
فعال پارامېټرونه۳٫۰B
د context کړکۍ۱۳۱٬۰۷۲ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريErnie4_5_MoeForCausalLM
موداليټيګانېمتن
جوازapache-2.0
د ځایپرځای کولو حالتله تصدیق شوي تنظیم سره ځایپرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2025-06-28
معماري، پیاوړتیاوې او کارونې
ERNIE 4.5 21B-A3B is an official self-hostable Baidu release in the ERNIE General track. It uses Ernie4_5_MoeForCausalLM, carries 21B / 3B MoE, supports a verified context window of 131,072 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
ERNIE 4.5 21B-A3B uses Ernie4_5_MoeForCausalLM with 21B / 3B MoE. The stored architecture profile records 28 layers, hidden width 2560, 20 attention heads and a 131,072 ټوکن context ceiling where the official configuration publishes those fields.
Verified Ernie4_5_MoeForCausalLM architecture
131,072 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
تایید شوي checkpoint-ونه او quantization-ونه
یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.
سپارښتل شوی هارډوېیر
Use only the listed fastdeploy د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.
د وزنونو اټکلي حافظه40.29 GB
KV cache0.44 GB
د اجرا چاپېریال اضافي اړتیا12.05 GB
ټول له خوندیتوب حاشیې سره65.44 GB
د ارزښت له مخې غوره سپارښتنه
1× NVIDIA H200 SXM 141GB
141 GB ټول VRAM · nvswitch
75.56 GB اضافي ظرفیت · محدود ظرفیت
USD ۲٬۳۴۵ / میاشتد عملي انتخابونو تر ټولو ټیټ لګښت
3× NVIDIA L4 24GB
72 GB ټول VRAM · pcie
6.56 GB اضافي ظرفیت · شته
USD ۷۵۰ / میاشتتر ټولو لوړ فعالیت
1× NVIDIA H200 SXM 141GB
141 GB ټول VRAM · nvswitch
75.56 GB اضافي ظرفیت · محدود ظرفیت
USD ۲٬۳۴۵ / میاشتد جواز او خپل کوربهتوب ملاحظات
The full 21B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
ERNIE 4.5 21B-A3B is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.
سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.
بدیلونه او همنسله بڼې
ERNIE 4.5 300B-A47B
غوره شوې پرتلهګانې
د نسخو مهالوېش
baidu/ernie/ernie-4-5-21b-a3b
د سرچینې جزئیات
د سرچینې revision: 55376fc68504404a927791015701e9c8b79b9a55d204aa833581c936fab6aeca
ډېرې پوښتل شوې پوښتنې
How much VRAM does ERNIE 4.5 21B-A3B require?
The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.
Which د اجرا چاپېریالونه ملاتړ ERNIE 4.5 21B-A3B?
Certified upstream د اجرا چاپېریال evidence is available for fastdeploy.
Can ERNIE 4.5 21B-A3B be used commercially?
The stored commercial classification is Commercial Use Allowed. Consult the official apache-2.0 terms for the final obligations.
رسمي مراجع
وروستی تایید: 2026-09-03