Saltar al contenido principal

OLMo · General · OLMo 2

OLMo 2 32B: especificaciones, GPU, hosting y despliegue

OLMo 2 32B es una versión Reciente de la línea General de OLMo, certificada desde su revisión oficial.

Ilustración técnica de despliegue para OLMo 2 32B
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales32,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónReciente · Reciente
ArquitecturaDense Transformer
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-03-12

Arquitectura, fortalezas y usos

OLMo 2 32B es una versión oficial autoalojable de Allen AI en la línea OLMo General. Usa Dense Transformer con 32B y un contexto verificado de 131,072 tokens.

OLMo 2 32B usa Dense Transformer con 32B. El perfil registra 64 capas, ancho oculto 8192 y 64 cabezas de atención cuando se publican.

Arquitectura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

OLMo-2-0325-32B-Instruct

allenai/OLMo-2-0325-32B-Instruct

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Transformers

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos61.39 GB
KV cache2 GB
Sobrecarga del entorno de ejecución16.13 GB
Total con margen de seguridad98.61 GB

Mejor relación calidad-precio

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

61.39 GB de margen · Disponible

USD 1.830 / mes

Opción viable de menor coste

5× NVIDIA L4 24GB

120 GB VRAM total · pcie

21.39 GB de margen · Disponible

USD 1.250 / mes

Máximo rendimiento

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

61.39 GB de margen · Disponible

USD 1.830 / mes

Licencia y autoalojamiento

Los 32 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

OLMo 2 32B se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Alternativas y variantes hermanas

OLMo 3.1 32B Instruct

Cronología de la versión

allenai/olmo/olmo-2-32b

Detalles de la fuente

Fuente oficial

Revisión de la fuente: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572

Preguntas frecuentes

¿Cuánta VRAM requiere OLMo 2 32B?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten OLMo 2 32B?

Hay pruebas oficiales certificadas para transformers.

¿Puede usarse OLMo 2 32B comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.

Referencias oficiales

Última verificación: 2026-08-26