Перейти к основному содержимому

Meta Llama · Общий · Llama 3.1

Llama 3.1 405B: характеристики, требования к GPU, хостинг и развертывание

Llama 3.1 405B — версия Недавний направления Общий семейства Meta Llama, подтвержденная официальной ревизией.

Техническая схема развертывания Llama 3.1 405B
Эталонный поток; точные данные указаны отдельно.
Всего параметров405,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииНедавний · Недавний
АрхитектураDense Transformer
МодальностиТекст
ЛицензияЛицензия сообщества Llama 3.1
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2024-07-16

Архитектура, преимущества и сценарии

Llama 3.1 405B — официальная модель Meta для самостоятельного хостинга в направлении Meta Llama Общий. Архитектура Dense Transformer, 405B и проверенный контекст 131,072 токенов.

Llama 3.1 405B использует Dense Transformer с 405B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.

Проверенная архитектура Dense Transformer
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

Llama-3.1-405B-Instruct

meta-llama/Llama-3.1-405B-Instruct

Официальный · BF16 · safetensors

Проверенная среда выполнения: Transformers

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов777 GB
KV-кэш2 GB
Накладные расходы среды выполнения196.86 GB
Итого с запасом1210.07 GB
Технически совместимая эталонная конфигурация

Текущий инвентарь FusionPointAI не проходит все проверки среды выполнения, архитектуры, топологии и памяти для этого чекпоинта. Используйте калькулятор глобально совместимого оборудования.

Лицензия и самостоятельный хостинг

Все 405 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Llama 3.1 405B опубликована под лицензией Лицензия сообщества Llama 3.1. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.

Альтернативы и варианты одного поколения

Llama 4 Scout 17B-16E, Llama 4 Maverick 17B-128E

История версии

meta/llama/llama-3-1-405b

Сведения об источнике

Официальный источник

Ревизия источника: ec5a654d6f9ae0f8c3e0ad5cf9d102d9937c302c51a497a7ae316cdb15dfed83

Частые вопросы

Сколько VRAM требуется для Llama 3.1 405B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Llama 3.1 405B?

Официальные подтверждения сертифицированы для transformers.

Можно ли использовать Llama 3.1 405B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Лицензия сообщества Llama 3.1.

Официальные источники

Последняя проверка: 2026-08-26