ERNIE 4.5 VL 28B-A3B Thinking: تایبەتمەندی، پێداویستییەکانی GPU، میوانداری و جێبەجێکردن

تەلارسازی، بەهێزییەکان و بەکارهێنان

ERNIE 4.5 VL 28B-A3B Thinking is an official self-hostable Baidu release in the ERNIE Vision track. It uses Ernie4_5_VLMoeForConditionalGeneration, carries 28B / 3B MoE, supports a verified context window of 131,072 تۆکنەکان, and exposes only source-certified خاڵەکانی وەشان and ژینگەی جێبەجێکردن combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

ERNIE 4.5 VL 28B-A3B Thinking uses Ernie4_5_VLMoeForConditionalGeneration with 28B / 3B MoE. The stored architecture profile records 28 layers, hidden width 2560, 20 attention heads and a 131,072 تۆکن context ceiling where the official configuration publishes those fields.

خاڵەکانی پشکنین و کوانتایزکردنی پشتڕاستکراو

تەنها ئەو جۆرە وردانە پیشان دەدرێن کە سەرچاوە پشتڕاستی کردوونەوە و بەو وەشانەوە بەستراونەتەوە.

سەختەواڵەی پێشنیارکراو

Use only the listed transformers, vllm, fastdeploy ژینگەی جێبەجێکردن configuration with the exact خاڵی وەشان precision. The recommendation engine checks weight memory, کاشی KV, ژینگەی جێبەجێکردن overhead, safety توانای زیادەی بەردەست, GPU architecture and topology before ranking rentable and reference hardware.

مۆڵەت و بڕیارەکانی میوانداری لەسەر خۆت

The full 28B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

ERNIE 4.5 VL 28B-A3B Thinking is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.

بەکارهێنانی بازرگانی ڕێگەپێدراوە. مۆڵەتی فەرمی بەکارهێنانی بازرگانی ڕێگەپێدەدات؛ پابەندییەکانی هێشتا جێبەجێ دەبن.

جێگرەوەکان و جۆرە هاوتەمەنەکان

ERNIE 4.5 VL 424B-A47B

ڕێڕەوی کاتیی وەشان

پرسیارە باوەکان

سەرچاوە فەرمییەکان

• huggingface.co

دوا جار پشتڕاستکراوەتەوە: 2026-09-03