Passer au contenu principal

ERNIE · Vision · ERNIE 4.5 VL

ERNIE 4.5 VL 28B-A3B Thinking : caractéristiques, besoins GPU, hébergement et déploiement

ERNIE 4.5 VL 28B-A3B Thinking est une version Actuel de la branche Vision de ERNIE, certifiée depuis sa révision officielle.

Illustration technique de déploiement pour ERNIE 4.5 VL 28B-A3B Thinking
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux28,0B
Paramètres actifs3,0B
Fenêtre de contexte131 072 tokens
Statut de la versionActuel · Actuel
Architecture du modèleErnie4_5_VLMoeForConditionalGeneration
ModalitésMultimodal
Licenceapache-2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2025-11-07

Architecture, points forts et usages

ERNIE 4.5 VL 28B-A3B Thinking est une version officielle auto-hébergeable de Baidu dans la branche ERNIE Vision. Elle utilise Ernie4_5_VLMoeForConditionalGeneration avec 28B / 3B MoE et un contexte vérifié de 131,072 tokens.

ERNIE 4.5 VL 28B-A3B Thinking utilise Ernie4_5_VLMoeForConditionalGeneration avec 28B / 3B MoE. Le profil vérifié indique 28 couches, une largeur cachée de 2560 et 20 têtes d’attention lorsque ces valeurs sont publiées.

Architecture Ernie4_5_VLMoeForConditionalGeneration vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

ERNIE-4.5-VL-28B-A3B-Thinking

baidu/ERNIE-4.5-VL-28B-A3B-Thinking

Officiel · BF16 · safetensors

Environnement d’exécution certifié: Transformers vLLM Fastdeploy

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
BF16safetensors16OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids53.72 GB
Cache KV0.44 GB
Surcharge de l’environnement d’exécution14.47 GB
Total avec marge de sécurité85.09 GB

Meilleur rapport qualité-prix

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

74.91 GB de marge · Disponible

$1 830,00 / mois

Option viable la moins chère

4× NVIDIA L4 24GB

96 GB VRAM totale · pcie

10.91 GB de marge · Disponible

$1 000,00 / mois

Performances maximales

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

74.91 GB de marge · Disponible

$1 830,00 / mois

Licence et considérations d’auto-hébergement

Les 28 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

ERNIE 4.5 VL 28B-A3B Thinking est publié sous apache-2.0. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.

Alternatives et variantes associées

ERNIE 4.5 VL 424B-A47B

Chronologie des versions

baidu/ernie/ernie-4-5-vl-28b-a3b-thinking @ a88e2de785ab3000d4b7062ce96d896d2e36ecfa9c8940a9d2da110cc3fba3da

Source officielle

Questions fréquentes

Quelle VRAM faut-il pour ERNIE 4.5 VL 28B-A3B Thinking ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge ERNIE 4.5 VL 28B-A3B Thinking ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers, vllm, fastdeploy.

ERNIE 4.5 VL 28B-A3B Thinking peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de apache-2.0.

Références officielles

Dernière vérification: 2026-09-03