Saltar al contenido principal

ERNIE · Razonamiento · ERNIE 4.5 Thinking

ERNIE 4.5 21B-A3B Thinking: especificaciones, GPU, hosting y despliegue

ERNIE 4.5 21B-A3B Thinking es una versión Actual de la línea Razonamiento de ERNIE, certificada desde su revisión oficial.

Ilustración técnica de despliegue para ERNIE 4.5 21B-A3B Thinking
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales21,0B
Parámetros activos3,0B
Ventana de contexto131.072 tokens
Estado de versiónActual · Actual
ArquitecturaErnie4_5_MoeForCausalLM
ModalidadesTexto
Licenciaapache-2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-09-08

Arquitectura, fortalezas y usos

ERNIE 4.5 21B-A3B Thinking es una versión oficial autoalojable de Baidu en la línea ERNIE Razonamiento. Usa Ernie4_5_MoeForCausalLM con 21B / 3B MoE y un contexto verificado de 131,072 tokens.

ERNIE 4.5 21B-A3B Thinking usa Ernie4_5_MoeForCausalLM con 21B / 3B MoE. El perfil registra 28 capas, ancho oculto 2560 y 20 cabezas de atención cuando se publican.

Arquitectura Ernie4_5_MoeForCausalLM verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

ERNIE-4.5-21B-A3B-Thinking

baidu/ERNIE-4.5-21B-A3B-Thinking

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Fastdeploy vLLM Transformers

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos40.29 GB
KV cache0.44 GB
Sobrecarga del entorno de ejecución12.05 GB
Total con margen de seguridad65.44 GB

Mejor relación calidad-precio

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

75.56 GB de margen · Capacidad limitada

USD 2.345 / mes

Opción viable de menor coste

3× NVIDIA L4 24GB

72 GB VRAM total · pcie

6.56 GB de margen · Disponible

USD 750 / mes

Máximo rendimiento

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

75.56 GB de margen · Capacidad limitada

USD 2.345 / mes

Licencia y autoalojamiento

Los 21 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

ERNIE 4.5 21B-A3B Thinking se publica bajo apache-2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Cronología de la versión

baidu/ernie/ernie-4-5-21b-a3b-thinking @ aa54548a750802c4c7471b17b3a3b850f3f4b0465a2cf4c43f0d1dd9c9dc5297

Fuente oficial

Preguntas frecuentes

¿Cuánta VRAM requiere ERNIE 4.5 21B-A3B Thinking?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten ERNIE 4.5 21B-A3B Thinking?

Hay pruebas oficiales certificadas para fastdeploy, vllm, transformers.

¿Puede usarse ERNIE 4.5 21B-A3B Thinking comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de apache-2.0.

Referencias oficiales

Última verificación: 2026-09-03