Zum Hauptinhalt springen

ERNIE · Schlussfolgern · ERNIE 4.5 Thinking

ERNIE 4.5 21B-A3B Thinking: Daten, GPU-Bedarf, Hosting und Bereitstellung

ERNIE 4.5 21B-A3B Thinking ist eine Aktuell-Version im Schlussfolgern-Zweig der ERNIE-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für ERNIE 4.5 21B-A3B Thinking
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter21,0B
Aktive Parameter3,0B
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturErnie4_5_MoeForCausalLM
ModalitätenText
Lizenzapache-2.0
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-09-08

Architektur, Stärken und Einsatzbereiche

ERNIE 4.5 21B-A3B Thinking ist eine offizielle selbst hostbare Baidu-Version im Zweig ERNIE Schlussfolgern. Sie nutzt Ernie4_5_MoeForCausalLM mit 21B / 3B MoE und 131,072 geprüften Kontext-Token.

ERNIE 4.5 21B-A3B Thinking nutzt Ernie4_5_MoeForCausalLM mit 21B / 3B MoE. Das Quellenprofil enthält 28 Schichten, Breite 2560 und 20 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Ernie4_5_MoeForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

ERNIE-4.5-21B-A3B-Thinking

baidu/ERNIE-4.5-21B-A3B-Thinking

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Fastdeploy vLLM Transformers

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher40.29 GB
KV cache0.44 GB
Laufzeitaufwand12.05 GB
Gesamt mit Sicherheitsreserve65.44 GB

Empfohlenes Preis-Leistungs-Verhältnis

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

75.56 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Günstigste geeignete Option

3× NVIDIA L4 24GB

72 GB VRAM gesamt · pcie

6.56 GB Reserve · Verfügbar

USD 750 / Monat

Höchste Leistung

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

75.56 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 21 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

ERNIE 4.5 21B-A3B Thinking wird unter apache-2.0 veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Versionsverlauf

baidu/ernie/ernie-4-5-21b-a3b-thinking

Quellendetails

Offizielle Quelle

Quellrevision: aa54548a750802c4c7471b17b3a3b850f3f4b0465a2cf4c43f0d1dd9c9dc5297

Häufige Fragen

Wie viel VRAM benötigt ERNIE 4.5 21B-A3B Thinking?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen ERNIE 4.5 21B-A3B Thinking?

Geprüfte Upstream-Belege liegen für fastdeploy, vllm, transformers vor.

Darf ERNIE 4.5 21B-A3B Thinking kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen apache-2.0-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-09-03