Passer au contenu principal

Meta Llama · Général · Llama 3.1

Llama 3.1 405B : caractéristiques, besoins GPU, hébergement et déploiement

Llama 3.1 405B est une version Récent de la branche Général de Meta Llama, certifiée depuis sa révision officielle.

Illustration technique de déploiement pour Llama 3.1 405B
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux405,0B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionRécent · Récent
Architecture du modèleDense Transformer
ModalitésTexte
LicenceLicence communautaire Llama 3.1
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé sous conditions
Date de sortie2024-07-16

Architecture, points forts et usages

Llama 3.1 405B est une version officielle auto-hébergeable de Meta dans la branche Meta Llama Général. Elle utilise Dense Transformer avec 405B et un contexte vérifié de 131,072 tokens.

Llama 3.1 405B utilise Dense Transformer avec 405B. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.

Architecture Dense Transformer vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

Llama-3.1-405B-Instruct

meta-llama/Llama-3.1-405B-Instruct

Officiel · BF16 · safetensors

Environnement d’exécution certifié: Transformers

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
BF16safetensors16OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids777 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution196.86 GB
Total avec marge de sécurité1210.07 GB
Dimensionnement de référence techniquement compatible

Aucun inventaire FusionPointAI actuel ne satisfait tous les critères d’environnement d’exécution, d’architecture, de topologie et de mémoire pour ce checkpoint. Utilisez l’estimateur pour le matériel compatible mondial.

Licence et considérations d’auto-hébergement

Les 405 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

Llama 3.1 405B est publié sous Licence communautaire Llama 3.1. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé sous conditions. L’usage commercial est soumis à conditions. Consultez les conditions officielles indiquées avant tout déploiement.

Alternatives et variantes associées

Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E

Chronologie des versions

meta/llama/llama-3-1-405b

Détails de la source

Source officielle

Révision de la source: ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83

Questions fréquentes

Quelle VRAM faut-il pour Llama 3.1 405B ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge Llama 3.1 405B ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers.

Llama 3.1 405B peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé sous conditions. Consultez les conditions officielles de Licence communautaire Llama 3.1.

Références officielles

Dernière vérification: 2026-08-26