Olmo-3.1-32B-Instruct
Oficial · BF16 · safetensors
Entorno de ejecución certificado: Transformers
| Precisión / cuantización | Formato | Bits | Confianza del editor | Estado de despliegue |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Oficial | Entorno de ejecución certificado |
OLMo · General · OLMo 3.1
OLMo 3.1 32B Instruct: especificaciones, GPU, hosting y despliegue
OLMo 3.1 32B Instruct es una versión Actual de la línea General de OLMo, certificada desde su revisión oficial.
Parámetros totales32,2B
Parámetros activosModelo denso
Ventana de contexto65.536 tokens
Estado de versiónActual · Actual
ArquitecturaOlmo3ForCausalLM
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-12-10
Arquitectura, fortalezas y usos
OLMo 3.1 32B Instruct es una versión oficial autoalojable de Allen AI en la línea OLMo General. Usa Olmo3ForCausalLM con 32.2B y un contexto verificado de 65,536 tokens.
OLMo 3.1 32B Instruct usa Olmo3ForCausalLM con 32.2B. El perfil registra 64 capas, ancho oculto 5120 y 40 cabezas de atención cuando se publican.
Arquitectura Olmo3ForCausalLM verificada
Contexto certificado de 65,536 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo
Checkpoints y cuantizaciones certificados
Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.
Hardware recomendado
Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.
Memoria estimada de pesos61.78 GB
KV cache2 GB
Sobrecarga del entorno de ejecución16.2 GB
Total con margen de seguridad99.17 GB
Mejor relación calidad-precio
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
60.83 GB de margen · Disponible
USD 1.830 / mesOpción viable de menor coste
5× NVIDIA L4 24GB
120 GB VRAM total · pcie
20.83 GB de margen · Disponible
USD 1.250 / mesMáximo rendimiento
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
60.83 GB de margen · Disponible
USD 1.830 / mesLicencia y autoalojamiento
Los 32.2 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.
OLMo 3.1 32B Instruct se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.
Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.
Alternativas y variantes hermanas
OLMo 2 32B
Cronología de la versión
allenai/olmo/olmo-3-1-32b-instruct
Detalles de la fuente
Revisión de la fuente: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb
Preguntas frecuentes
¿Cuánta VRAM requiere OLMo 3.1 32B Instruct?
La estimación depende de precisión, contexto y concurrencia y usa datos certificados.
¿Qué entornos de ejecución admiten OLMo 3.1 32B Instruct?
Hay pruebas oficiales certificadas para transformers.
¿Puede usarse OLMo 3.1 32B Instruct comercialmente?
La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.
Referencias oficiales
Última verificación: 2026-08-26