Перейти к основному содержимому

ERNIE · Рассуждение · ERNIE 4.5 Thinking

ERNIE 4.5 21B-A3B Thinking: характеристики, требования к GPU, хостинг и развертывание

ERNIE 4.5 21B-A3B Thinking — версия Текущий направления Рассуждение семейства ERNIE, подтвержденная официальной ревизией.

Техническая схема развертывания ERNIE 4.5 21B-A3B Thinking
Эталонный поток; точные данные указаны отдельно.
Всего параметров21,0B
Активные параметры3,0B
Окно контекста131 072 tokens
Статус версииТекущий · Текущий
АрхитектураErnie4_5_MoeForCausalLM
МодальностиТекст
Лицензияapache-2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-09-08

Архитектура, преимущества и сценарии

ERNIE 4.5 21B-A3B Thinking — официальная модель Baidu для самостоятельного хостинга в направлении ERNIE Рассуждение. Архитектура Ernie4_5_MoeForCausalLM, 21B / 3B MoE и проверенный контекст 131,072 токенов.

ERNIE 4.5 21B-A3B Thinking использует Ernie4_5_MoeForCausalLM с 21B / 3B MoE. Профиль содержит 28 слоев, ширину 2560 и 20 голов внимания, если они опубликованы.

Проверенная архитектура Ernie4_5_MoeForCausalLM
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

ERNIE-4.5-21B-A3B-Thinking

baidu/ERNIE-4.5-21B-A3B-Thinking

Официальный · BF16 · safetensors

Проверенная среда выполнения: Fastdeploy vLLM Transformers

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов40.29 GB
KV-кэш0.44 GB
Накладные расходы среды выполнения12.05 GB
Итого с запасом65.44 GB

Рекомендуемое соотношение цены и качества

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

75.56 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Самый дешевый подходящий вариант

3× NVIDIA L4 24GB

72 GB общая VRAM · pcie

6.56 GB запаса · Доступно

USD 750 / месяц

Максимальная производительность

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

75.56 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Лицензия и самостоятельный хостинг

Все 21 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

ERNIE 4.5 21B-A3B Thinking опубликована под лицензией apache-2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

История версии

baidu/ernie/ernie-4-5-21b-a3b-thinking

Сведения об источнике

Официальный источник

Ревизия источника: aa54548a750802c4c7471b17b3a3b850f3f4b0465a2cf4c43f0d1dd9c9dc5297

Частые вопросы

Сколько VRAM требуется для ERNIE 4.5 21B-A3B Thinking?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают ERNIE 4.5 21B-A3B Thinking?

Официальные подтверждения сертифицированы для fastdeploy, vllm, transformers.

Можно ли использовать ERNIE 4.5 21B-A3B Thinking коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия apache-2.0.

Официальные источники

Последняя проверка: 2026-09-03