Saltar para o conteúdo principal

OLMo · Geral · OLMo 2

OLMo 2 32B: especificações, requisitos GPU, alojamento e implementação

OLMo 2 32B é uma versão Recente da linha Geral de OLMo, certificada pela revisão oficial.

Ilustração técnica de implementação para OLMo 2 32B
Fluxo de referência; os dados exatos são apresentados separadamente.
Parâmetros totais32,0B
Parâmetros ativosModelo denso
Janela de contexto131 072 tokens
Estado da versãoRecente · Recente
ArquiteturaDense Transformer
ModalidadesTexto
LicençaLicença Apache 2.0
Estado de implementaçãoPode ser implementado com uma configuração certificada
Estado comercialUso comercial permitido
Data de lançamento2025-03-12

Arquitetura, vantagens e usos

OLMo 2 32B é uma versão oficial autoalojável da Allen AI na linha OLMo Geral. Usa Dense Transformer com 32B e contexto verificado de 131,072 tokens.

OLMo 2 32B usa Dense Transformer com 32B. O perfil regista 64 camadas, largura 8192 e 64 cabeças de atenção quando publicados.

Arquitetura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniência oficial do checkpoint
Inferência LLM privada
Fluxos de agentes
Documentos de contexto longo

Checkpoints e quantizações certificados

São mostradas apenas variantes exatas desta versão, certificadas pela fonte.

OLMo-2-0325-32B-Instruct

allenai/OLMo-2-0325-32B-Instruct

Oficial · BF16 · safetensors

Ambiente de execução certificado: Transformers

Precisão / quantizaçãoFormatoBitsConfiança no editorEstado de implementação
BF16safetensors16OficialAmbiente de execução certificado

Hardware recomendado

Use apenas configurações de ambiente de execução certificadas com a precisão exata. A classificação verifica pesos, cache KV, sobrecarga, arquitetura GPU e topologia.

Memória estimada dos pesos61.39 GB
KV cache2 GB
Sobrecarga do ambiente de execução16.13 GB
Total com margem de segurança98.61 GB

Melhor valor recomendado

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

61.39 GB de margem · Disponível

USD 1 830 / mês

Opção viável de menor custo

5× NVIDIA L4 24GB

120 GB VRAM total · pcie

21.39 GB de margem · Disponível

USD 1 250 / mês

Maior desempenho

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

61.39 GB de margem · Disponível

USD 1 830 / mês

Licença e alojamento próprio

Os 32 B de pesos residentes têm de caber nas GPUs. Contexto e concorrência adicionam cache KV.

OLMo 2 32B é publicado sob Licença Apache 2.0. O URL oficial e a data de verificação são guardados.

Uso comercial permitido. A licença oficial permite o uso comercial; todas as suas obrigações continuam aplicáveis.

Alternativas e variantes irmãs

OLMo 3.1 32B Instruct

Cronologia da versão

allenai/olmo/olmo-2-32b

Detalhes da fonte

Fonte oficial

Revisão da fonte: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572

Perguntas frequentes

Quanta VRAM requer OLMo 2 32B?

A estimativa depende da precisão, contexto e concorrência e usa dados certificados.

Que ambientes de execução suportam OLMo 2 32B?

Existem provas oficiais certificadas para transformers.

OLMo 2 32B pode ser usado comercialmente?

A classificação guardada é Uso comercial permitido. Consulte os termos oficiais de Licença Apache 2.0.

Referências oficiais

Última verificação: 2026-08-26