Saltar al contenido principal

ERNIE · General · ERNIE 4.5

ERNIE 4.5 21B-A3B: especificaciones, GPU, hosting y despliegue

ERNIE 4.5 21B-A3B es una versión Actual de la línea General de ERNIE, certificada desde su revisión oficial.

Ilustración técnica de despliegue para ERNIE 4.5 21B-A3B
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales21,0B
Parámetros activos3,0B
Ventana de contexto131.072 tokens
Estado de versiónActual · Actual
ArquitecturaErnie4_5_MoeForCausalLM
ModalidadesTexto
Licenciaapache-2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-06-28

Arquitectura, fortalezas y usos

ERNIE 4.5 21B-A3B es una versión oficial autoalojable de Baidu en la línea ERNIE General. Usa Ernie4_5_MoeForCausalLM con 21B / 3B MoE y un contexto verificado de 131,072 tokens.

ERNIE 4.5 21B-A3B usa Ernie4_5_MoeForCausalLM con 21B / 3B MoE. El perfil registra 28 capas, ancho oculto 2560 y 20 cabezas de atención cuando se publican.

Arquitectura Ernie4_5_MoeForCausalLM verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

ERNIE-4.5-21B-A3B-Paddle

baidu/ERNIE-4.5-21B-A3B-Paddle

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Fastdeploy

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos40.29 GB
KV cache0.44 GB
Sobrecarga del entorno de ejecución12.05 GB
Total con margen de seguridad65.44 GB

Mejor relación calidad-precio

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

75.56 GB de margen · Capacidad limitada

USD 2.345 / mes

Opción viable de menor coste

3× NVIDIA L4 24GB

72 GB VRAM total · pcie

6.56 GB de margen · Disponible

USD 750 / mes

Máximo rendimiento

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

75.56 GB de margen · Capacidad limitada

USD 2.345 / mes

Licencia y autoalojamiento

Los 21 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

ERNIE 4.5 21B-A3B se publica bajo apache-2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Alternativas y variantes hermanas

ERNIE 4.5 300B-A47B

Comparaciones seleccionadas

Cronología de la versión

baidu/ernie/ernie-4-5-21b-a3b

Detalles de la fuente

Fuente oficial

Revisión de la fuente: 55376fc68504404a927791015701e9c8b79b9a55d204aa833581c936fab6aeca

Preguntas frecuentes

¿Cuánta VRAM requiere ERNIE 4.5 21B-A3B?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten ERNIE 4.5 21B-A3B?

Hay pruebas oficiales certificadas para fastdeploy.

¿Puede usarse ERNIE 4.5 21B-A3B comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de apache-2.0.

Referencias oficiales

Última verificación: 2026-09-03