Перейти к основному содержимому

ERNIE · Общий · ERNIE 4.5

ERNIE 4.5 21B-A3B: характеристики, требования к GPU, хостинг и развертывание

ERNIE 4.5 21B-A3B — версия Текущий направления Общий семейства ERNIE, подтвержденная официальной ревизией.

Техническая схема развертывания ERNIE 4.5 21B-A3B
Эталонный поток; точные данные указаны отдельно.
Всего параметров21,0B
Активные параметры3,0B
Окно контекста131 072 tokens
Статус версииТекущий · Текущий
АрхитектураErnie4_5_MoeForCausalLM
МодальностиТекст
Лицензияapache-2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-06-28

Архитектура, преимущества и сценарии

ERNIE 4.5 21B-A3B — официальная модель Baidu для самостоятельного хостинга в направлении ERNIE Общий. Архитектура Ernie4_5_MoeForCausalLM, 21B / 3B MoE и проверенный контекст 131,072 токенов.

ERNIE 4.5 21B-A3B использует Ernie4_5_MoeForCausalLM с 21B / 3B MoE. Профиль содержит 28 слоев, ширину 2560 и 20 голов внимания, если они опубликованы.

Проверенная архитектура Ernie4_5_MoeForCausalLM
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

ERNIE-4.5-21B-A3B-Paddle

baidu/ERNIE-4.5-21B-A3B-Paddle

Официальный · BF16 · safetensors

Проверенная среда выполнения: Fastdeploy

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов40.29 GB
KV-кэш0.44 GB
Накладные расходы среды выполнения12.05 GB
Итого с запасом65.44 GB

Рекомендуемое соотношение цены и качества

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

75.56 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Самый дешевый подходящий вариант

3× NVIDIA L4 24GB

72 GB общая VRAM · pcie

6.56 GB запаса · Доступно

USD 750 / месяц

Максимальная производительность

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

75.56 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Лицензия и самостоятельный хостинг

Все 21 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

ERNIE 4.5 21B-A3B опубликована под лицензией apache-2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

Альтернативы и варианты одного поколения

ERNIE 4.5 300B-A47B

Подготовленные сравнения

История версии

baidu/ernie/ernie-4-5-21b-a3b

Сведения об источнике

Официальный источник

Ревизия источника: 55376fc68504404a927791015701e9c8b79b9a55d204aa833581c936fab6aeca

Частые вопросы

Сколько VRAM требуется для ERNIE 4.5 21B-A3B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают ERNIE 4.5 21B-A3B?

Официальные подтверждения сертифицированы для fastdeploy.

Можно ли использовать ERNIE 4.5 21B-A3B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия apache-2.0.

Официальные источники

Последняя проверка: 2026-09-03