ERNIE 4.5 21B-A3B Thinking: تایبەتمەندی، پێداویستییەکانی GPU، میوانداری و جێبەجێکردن

تەلارسازی، بەهێزییەکان و بەکارهێنان

ERNIE 4.5 21B-A3B Thinking is an official self-hostable Baidu release in the ERNIE Reasoning track. It uses Ernie4_5_MoeForCausalLM, carries 21B / 3B MoE, supports a verified context window of 131,072 تۆکنەکان, and exposes only source-certified خاڵەکانی وەشان and ژینگەی جێبەجێکردن combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

ERNIE 4.5 21B-A3B Thinking uses Ernie4_5_MoeForCausalLM with 21B / 3B MoE. The stored architecture profile records 28 layers, hidden width 2560, 20 attention heads and a 131,072 تۆکن context ceiling where the official configuration publishes those fields.

خاڵەکانی پشکنین و کوانتایزکردنی پشتڕاستکراو

تەنها ئەو جۆرە وردانە پیشان دەدرێن کە سەرچاوە پشتڕاستی کردوونەوە و بەو وەشانەوە بەستراونەتەوە.

سەختەواڵەی پێشنیارکراو

Use only the listed fastdeploy, vllm, transformers ژینگەی جێبەجێکردن configuration with the exact خاڵی وەشان precision. The recommendation engine checks weight memory, کاشی KV, ژینگەی جێبەجێکردن overhead, safety توانای زیادەی بەردەست, GPU architecture and topology before ranking rentable and reference hardware.

مۆڵەت و بڕیارەکانی میوانداری لەسەر خۆت

The full 21B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

ERNIE 4.5 21B-A3B Thinking is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.

بەکارهێنانی بازرگانی ڕێگەپێدراوە. مۆڵەتی فەرمی بەکارهێنانی بازرگانی ڕێگەپێدەدات؛ پابەندییەکانی هێشتا جێبەجێ دەبن.

ڕێڕەوی کاتیی وەشان

پرسیارە باوەکان

سەرچاوە فەرمییەکان

• huggingface.co

دوا جار پشتڕاستکراوەتەوە: 2026-09-03