Saltar para o conteúdo principal

Meta Llama · Geral · Llama 3.1

Llama 3.1 405B: especificações, requisitos GPU, alojamento e implementação

Llama 3.1 405B é uma versão Recente da linha Geral de Meta Llama, certificada pela revisão oficial.

Ilustração técnica de implementação para Llama 3.1 405B
Fluxo de referência; os dados exatos são apresentados separadamente.
Parâmetros totais405,0B
Parâmetros ativosModelo denso
Janela de contexto131 072 tokens
Estado da versãoRecente · Recente
ArquiteturaDense Transformer
ModalidadesTexto
LicençaLicença comunitária do Llama 3.1
Estado de implementaçãoPode ser implementado com uma configuração certificada
Estado comercialUso comercial permitido com condições
Data de lançamento2024-07-16

Arquitetura, vantagens e usos

Llama 3.1 405B é uma versão oficial autoalojável da Meta na linha Meta Llama Geral. Usa Dense Transformer com 405B e contexto verificado de 131,072 tokens.

Llama 3.1 405B usa Dense Transformer com 405B. O perfil regista 64 camadas, largura 8192 e 64 cabeças de atenção quando publicados.

Arquitetura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniência oficial do checkpoint
Inferência LLM privada
Fluxos de agentes
Documentos de contexto longo

Checkpoints e quantizações certificados

São mostradas apenas variantes exatas desta versão, certificadas pela fonte.

Llama-3.1-405B-Instruct

meta-llama/Llama-3.1-405B-Instruct

Oficial · BF16 · safetensors

Ambiente de execução certificado: Transformers

Precisão / quantizaçãoFormatoBitsConfiança no editorEstado de implementação
BF16safetensors16OficialAmbiente de execução certificado

Hardware recomendado

Use apenas configurações de ambiente de execução certificadas com a precisão exata. A classificação verifica pesos, cache KV, sobrecarga, arquitetura GPU e topologia.

Memória estimada dos pesos777 GB
KV cache2 GB
Sobrecarga do ambiente de execução196.86 GB
Total com margem de segurança1210.07 GB
Dimensionamento de referência tecnicamente compatível

Nenhum inventário atual da FusionPointAI cumpre todos os requisitos de ambiente de execução, arquitetura, topologia e memória para este checkpoint. Use o estimador para hardware global compatível.

Licença e alojamento próprio

Os 405 B de pesos residentes têm de caber nas GPUs. Contexto e concorrência adicionam cache KV.

Llama 3.1 405B é publicado sob Licença comunitária do Llama 3.1. O URL oficial e a data de verificação são guardados.

Uso comercial permitido com condições. O uso comercial está sujeito a condições. Consulte as condições oficiais indicadas antes da implementação.

Alternativas e variantes irmãs

Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E

Cronologia da versão

meta/llama/llama-3-1-405b

Detalhes da fonte

Fonte oficial

Revisão da fonte: ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83

Perguntas frequentes

Quanta VRAM requer Llama 3.1 405B?

A estimativa depende da precisão, contexto e concorrência e usa dados certificados.

Que ambientes de execução suportam Llama 3.1 405B?

Existem provas oficiais certificadas para transformers.

Llama 3.1 405B pode ser usado comercialmente?

A classificação guardada é Uso comercial permitido com condições. Consulte os termos oficiais de Licença comunitária do Llama 3.1.

Referências oficiais

Última verificação: 2026-08-26