Zum Hauptinhalt springen

ERNIE · Allgemein · ERNIE 4.5

ERNIE 4.5 21B-A3B: Daten, GPU-Bedarf, Hosting und Bereitstellung

ERNIE 4.5 21B-A3B ist eine Aktuell-Version im Allgemein-Zweig der ERNIE-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für ERNIE 4.5 21B-A3B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter21,0B
Aktive Parameter3,0B
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturErnie4_5_MoeForCausalLM
ModalitätenText
Lizenzapache-2.0
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-06-28

Architektur, Stärken und Einsatzbereiche

ERNIE 4.5 21B-A3B ist eine offizielle selbst hostbare Baidu-Version im Zweig ERNIE Allgemein. Sie nutzt Ernie4_5_MoeForCausalLM mit 21B / 3B MoE und 131,072 geprüften Kontext-Token.

ERNIE 4.5 21B-A3B nutzt Ernie4_5_MoeForCausalLM mit 21B / 3B MoE. Das Quellenprofil enthält 28 Schichten, Breite 2560 und 20 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Ernie4_5_MoeForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

ERNIE-4.5-21B-A3B-Paddle

baidu/ERNIE-4.5-21B-A3B-Paddle

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Fastdeploy

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher40.29 GB
KV cache0.44 GB
Laufzeitaufwand12.05 GB
Gesamt mit Sicherheitsreserve65.44 GB

Empfohlenes Preis-Leistungs-Verhältnis

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

75.56 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Günstigste geeignete Option

3× NVIDIA L4 24GB

72 GB VRAM gesamt · pcie

6.56 GB Reserve · Verfügbar

USD 750 / Monat

Höchste Leistung

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

75.56 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 21 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

ERNIE 4.5 21B-A3B wird unter apache-2.0 veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Alternativen und gleichrangige Varianten

ERNIE 4.5 300B-A47B

Redaktionelle Vergleiche

Versionsverlauf

baidu/ernie/ernie-4-5-21b-a3b

Quellendetails

Offizielle Quelle

Quellrevision: 55376fc68504404a927791015701e9c8b79b9a55d204aa833581c936fab6aeca

Häufige Fragen

Wie viel VRAM benötigt ERNIE 4.5 21B-A3B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen ERNIE 4.5 21B-A3B?

Geprüfte Upstream-Belege liegen für fastdeploy vor.

Darf ERNIE 4.5 21B-A3B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen apache-2.0-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-09-03