اصلي منځپانګې ته ورټوپ کړئ

ERNIE · لید · ERNIE 4.5 VL

ERNIE 4.5 VL 28B-A3B Thinking: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

ERNIE 4.5 VL 28B-A3B Thinking is a current Vision release in the ERNIE family, certified from its immutable official source revision.

Technical deployment reference illustration for ERNIE 4.5 VL 28B-A3B Thinking
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۲۸٫۰B
فعال پارامېټرونه۳٫۰B
د context کړکۍ۱۳۱٬۰۷۲ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريErnie4_5_VLMoeForConditionalGeneration
موداليټي‌ګانېڅو-مودالي
جوازapache-2.0
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2025-11-07

معماري، پیاوړتیاوې او کارونې

ERNIE 4.5 VL 28B-A3B Thinking is an official self-hostable Baidu release in the ERNIE Vision track. It uses Ernie4_5_VLMoeForConditionalGeneration, carries 28B / 3B MoE, supports a verified context window of 131,072 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

ERNIE 4.5 VL 28B-A3B Thinking uses Ernie4_5_VLMoeForConditionalGeneration with 28B / 3B MoE. The stored architecture profile records 28 layers, hidden width 2560, 20 attention heads and a 131,072 ټوکن context ceiling where the official configuration publishes those fields.

Verified Ernie4_5_VLMoeForConditionalGeneration architecture
131,072 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

ERNIE-4.5-VL-28B-A3B-Thinking

baidu/ERNIE-4.5-VL-28B-A3B-Thinking

رسمي · BF16 · safetensors

اجرا چاپېریال تایید شوی: Transformers vLLM Fastdeploy

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
BF16safetensors16رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed transformers, vllm, fastdeploy د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه53.72 GB
KV cache0.44 GB
د اجرا چاپېریال اضافي اړتیا14.47 GB
ټول له خوندیتوب حاشیې سره85.09 GB

د ارزښت له مخې غوره سپارښتنه

2× NVIDIA A100 SXM 80GB

160 GB ټول VRAM · nvlink

74.91 GB اضافي ظرفیت · شته

USD ۱٬۸۳۰ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

4× NVIDIA L4 24GB

96 GB ټول VRAM · pcie

10.91 GB اضافي ظرفیت · شته

USD ۱٬۰۰۰ / میاشت

تر ټولو لوړ فعالیت

2× NVIDIA A100 SXM 80GB

160 GB ټول VRAM · nvlink

74.91 GB اضافي ظرفیت · شته

USD ۱٬۸۳۰ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 28B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

ERNIE 4.5 VL 28B-A3B Thinking is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.

بدیلونه او هم‌نسله بڼې

ERNIE 4.5 VL 424B-A47B

د نسخو مهالوېش

baidu/ernie/ernie-4-5-vl-28b-a3b-thinking

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: a88e2de785ab3000d4b7062ce96d896d2e36ecfa9c8940a9d2da110cc3fba3da

ډېرې پوښتل شوې پوښتنې

How much VRAM does ERNIE 4.5 VL 28B-A3B Thinking require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ ERNIE 4.5 VL 28B-A3B Thinking?

Certified upstream د اجرا چاپېریال evidence is available for transformers, vllm, fastdeploy.

Can ERNIE 4.5 VL 28B-A3B Thinking be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official apache-2.0 terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-09-03