Llama-3.1-405B-Instruct
meta-llama/Llama-3.1-405B-Instruct
公式 · BF16 · safetensors
検証済み実行環境: Transformers
| 精度 / 量子化 | 形式 | ビット | 公開元の信頼区分 | デプロイ状態 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 公式 | 検証済み実行環境 |
Meta Llama · 汎用 · Llama 3.1
Llama 3.1 405B：仕様、GPU 要件、ホスティング、デプロイ
Llama 3.1 405B は Meta Llama の汎用系列に属する最近バージョンで、公式リビジョンから検証されています。
総パラメータ405.0B
有効パラメータ密なモデル
コンテキスト長131,072 tokens
バージョン状態最近 · 最近
アーキテクチャDense Transformer
モダリティテキスト
ライセンスLlama 3.1 コミュニティライセンス
デプロイ状態認証済み構成でデプロイ可能
商用状態条件付きで商用利用可
公開日2024-07-16
アーキテクチャ、強み、用途
Llama 3.1 405B は Meta の公式セルフホスト版で、Meta Llama 汎用系列、Dense Transformer、405B、検証済み 131,072 トークンコンテキストを備えます。
Llama 3.1 405B は Dense Transformer と 405B を使用します。公開されている場合は 64 層、隠れ幅 8192、注意ヘッド 64 を記録します。
検証済み Dense Transformer
131,072 トークンの検証済みコンテキスト
公式チェックポイント来歴
非公開 LLM 推論
エージェント処理
長文書処理
検証済みチェックポイントと量子化
このバージョンに紐づく、情報源で検証済みの正確なバリアントだけを表示します。
推奨ハードウェア
正確なチェックポイント精度に対応する検証済みランタイム構成だけを使用します。重み、KV キャッシュ、負荷、GPU アーキテクチャ、トポロジを確認します。
推定重みメモリ777 GB
KV キャッシュ2 GB
ランタイム負荷196.86 GB
安全余裕込み合計1210.07 GB
技術的に互換性のある参照構成
このチェックポイントについてランタイム、アーキテクチャ、トポロジ、メモリの全条件を満たす現在の在庫はありません。世界の互換ハードウェアは見積り機能で確認してください。
ライセンスとセルフホスティング
405 B の常駐重み全体が選択 GPU に収まる必要があります。コンテキストと同時実行で KV キャッシュが増えます。
Llama 3.1 405B は Llama 3.1 コミュニティライセンスで公開され、公式 URL と検証日を保持します。
条件付きで商用利用可. 商用利用には条件があります。導入前にリンク先の公式条件を確認してください。
代替候補と同世代バリアント
Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E
リリース履歴
meta/llama/llama-3-1-405b
よくある質問
Llama 3.1 405B にはどの程度の VRAM が必要ですか？
精度、コンテキスト、同時実行数に依存し、認証済みデータで計算します。
Llama 3.1 405B に対応するランタイムは？
transformers の公式証拠が認証されています。
Llama 3.1 405B は商用利用できますか？
保存区分は条件付きで商用利用可です。公式 Llama 3.1 コミュニティライセンス条件を確認してください。
公式情報源
最終検証日: 2026-08-26