Zum Hauptinhalt springen

Meta Llama · Allgemein · Llama 3.1

Llama 3.1 405B: Daten, GPU-Bedarf, Hosting und Bereitstellung

Llama 3.1 405B ist eine Neu-Version im Allgemein-Zweig der Meta Llama-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für Llama 3.1 405B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter405,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusNeu · Neu
ArchitekturDense Transformer
ModalitätenText
LizenzGemeinschaftslizenz für Llama 3.1
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung unter Auflagen erlaubt
Veröffentlichungsdatum2024-07-16

Architektur, Stärken und Einsatzbereiche

Llama 3.1 405B ist eine offizielle selbst hostbare Meta-Version im Zweig Meta Llama Allgemein. Sie nutzt Dense Transformer mit 405B und 131,072 geprüften Kontext-Token.

Llama 3.1 405B nutzt Dense Transformer mit 405B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

Llama-3.1-405B-Instruct

meta-llama/Llama-3.1-405B-Instruct

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Transformers

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher777 GB
KV cache2 GB
Laufzeitaufwand196.86 GB
Gesamt mit Sicherheitsreserve1210.07 GB
Technisch kompatible Referenzdimensionierung

Kein aktueller FusionPointAI-Bestand erfüllt für diesen Checkpoint alle Laufzeit-, Architektur-, Topologie- und Speicherkriterien. Nutzen Sie den Rechner für global kompatible Hardware.

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 405 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

Llama 3.1 405B wird unter Gemeinschaftslizenz für Llama 3.1 veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung unter Auflagen erlaubt. Die kommerzielle Nutzung ist an Bedingungen geknüpft. Prüfen Sie vor der Bereitstellung die verlinkten offiziellen Bedingungen.

Alternativen und gleichrangige Varianten

Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E

Versionsverlauf

meta/llama/llama-3-1-405b

Quellendetails

Offizielle Quelle

Quellrevision: ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83

Häufige Fragen

Wie viel VRAM benötigt Llama 3.1 405B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen Llama 3.1 405B?

Geprüfte Upstream-Belege liegen für transformers vor.

Darf Llama 3.1 405B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung unter Auflagen erlaubt. Maßgeblich sind die offiziellen Gemeinschaftslizenz für Llama 3.1-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26