Saltar para o conteúdo principal

OLMo · Geral · OLMo 3.1

OLMo 3.1 32B Instruct: especificações, requisitos GPU, alojamento e implementação

OLMo 3.1 32B Instruct é uma versão Atual da linha Geral de OLMo, certificada pela revisão oficial.

Ilustração técnica de implementação para OLMo 3.1 32B Instruct
Fluxo de referência; os dados exatos são apresentados separadamente.
Parâmetros totais32,2B
Parâmetros ativosModelo denso
Janela de contexto65 536 tokens
Estado da versãoAtual · Atual
ArquiteturaOlmo3ForCausalLM
ModalidadesTexto
LicençaLicença Apache 2.0
Estado de implementaçãoPode ser implementado com uma configuração certificada
Estado comercialUso comercial permitido
Data de lançamento2025-12-10

Arquitetura, vantagens e usos

OLMo 3.1 32B Instruct é uma versão oficial autoalojável da Allen AI na linha OLMo Geral. Usa Olmo3ForCausalLM com 32.2B e contexto verificado de 65,536 tokens.

OLMo 3.1 32B Instruct usa Olmo3ForCausalLM com 32.2B. O perfil regista 64 camadas, largura 5120 e 40 cabeças de atenção quando publicados.

Arquitetura Olmo3ForCausalLM verificada
Contexto certificado de 65,536 tokens
Proveniência oficial do checkpoint
Inferência LLM privada
Fluxos de agentes
Documentos de contexto longo

Checkpoints e quantizações certificados

São mostradas apenas variantes exatas desta versão, certificadas pela fonte.

Olmo-3.1-32B-Instruct

allenai/Olmo-3.1-32B-Instruct

Oficial · BF16 · safetensors

Ambiente de execução certificado: Transformers

Precisão / quantizaçãoFormatoBitsConfiança no editorEstado de implementação
BF16safetensors16OficialAmbiente de execução certificado

Hardware recomendado

Use apenas configurações de ambiente de execução certificadas com a precisão exata. A classificação verifica pesos, cache KV, sobrecarga, arquitetura GPU e topologia.

Memória estimada dos pesos61.78 GB
KV cache2 GB
Sobrecarga do ambiente de execução16.2 GB
Total com margem de segurança99.17 GB

Melhor valor recomendado

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

60.83 GB de margem · Disponível

USD 1 830 / mês

Opção viável de menor custo

5× NVIDIA L4 24GB

120 GB VRAM total · pcie

20.83 GB de margem · Disponível

USD 1 250 / mês

Maior desempenho

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

60.83 GB de margem · Disponível

USD 1 830 / mês

Licença e alojamento próprio

Os 32.2 B de pesos residentes têm de caber nas GPUs. Contexto e concorrência adicionam cache KV.

OLMo 3.1 32B Instruct é publicado sob Licença Apache 2.0. O URL oficial e a data de verificação são guardados.

Uso comercial permitido. A licença oficial permite o uso comercial; todas as suas obrigações continuam aplicáveis.

Alternativas e variantes irmãs

OLMo 2 32B

Cronologia da versão

allenai/olmo/olmo-3-1-32b-instruct

Detalhes da fonte

Fonte oficial

Revisão da fonte: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb

Perguntas frequentes

Quanta VRAM requer OLMo 3.1 32B Instruct?

A estimativa depende da precisão, contexto e concorrência e usa dados certificados.

Que ambientes de execução suportam OLMo 3.1 32B Instruct?

Existem provas oficiais certificadas para transformers.

OLMo 3.1 32B Instruct pode ser usado comercialmente?

A classificação guardada é Uso comercial permitido. Consulte os termos oficiais de Licença Apache 2.0.

Referências oficiais

Última verificação: 2026-08-26