Saltar al contenido principal

Meta Llama · General · Llama 3.1

Llama 3.1 405B: especificaciones, GPU, hosting y despliegue

Llama 3.1 405B es una versión Reciente de la línea General de Meta Llama, certificada desde su revisión oficial.

Ilustración técnica de despliegue para Llama 3.1 405B
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales405,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónReciente · Reciente
ArquitecturaDense Transformer
ModalidadesTexto
LicenciaLicencia comunitaria de Llama 3.1
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido con condiciones
Fecha de lanzamiento2024-07-16

Arquitectura, fortalezas y usos

Llama 3.1 405B es una versión oficial autoalojable de Meta en la línea Meta Llama General. Usa Dense Transformer con 405B y un contexto verificado de 131,072 tokens.

Llama 3.1 405B usa Dense Transformer con 405B. El perfil registra 64 capas, ancho oculto 8192 y 64 cabezas de atención cuando se publican.

Arquitectura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

Llama-3.1-405B-Instruct

meta-llama/Llama-3.1-405B-Instruct

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Transformers

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos777 GB
KV cache2 GB
Sobrecarga del entorno de ejecución196.86 GB
Total con margen de seguridad1210.07 GB
Dimensionamiento de referencia técnicamente compatible

Ningún inventario actual de FusionPointAI cumple todos los requisitos de entorno de ejecución, arquitectura, topología y memoria para este checkpoint. Use el estimador para hardware compatible global.

Licencia y autoalojamiento

Los 405 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

Llama 3.1 405B se publica bajo Licencia comunitaria de Llama 3.1. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido con condiciones. El uso comercial está sujeto a condiciones. Revise las condiciones oficiales indicadas antes del despliegue.

Alternativas y variantes hermanas

Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E

Cronología de la versión

meta/llama/llama-3-1-405b

Detalles de la fuente

Fuente oficial

Revisión de la fuente: ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83

Preguntas frecuentes

¿Cuánta VRAM requiere Llama 3.1 405B?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten Llama 3.1 405B?

Hay pruebas oficiales certificadas para transformers.

¿Puede usarse Llama 3.1 405B comercialmente?

La clasificación es Uso comercial permitido con condiciones. Consulte los términos oficiales de Licencia comunitaria de Llama 3.1.

Referencias oficiales

Última verificación: 2026-08-26