Перейти к основному содержимому

InternLM · Общий · InternLM3

InternLM3 8B: характеристики, требования к GPU, хостинг и развертывание

InternLM3 8B — версия Устаревший направления Общий семейства InternLM, подтвержденная официальной ревизией.

Техническая схема развертывания InternLM3 8B
Эталонный поток; точные данные указаны отдельно.
Всего параметров8,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииУстаревший · Устаревший
АрхитектураDense Transformer
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-01-13

Архитектура, преимущества и сценарии

InternLM3 8B — официальная модель Shanghai AI Laboratory для самостоятельного хостинга в направлении InternLM Общий. Архитектура Dense Transformer, 8B и проверенный контекст 131,072 токенов.

InternLM3 8B использует Dense Transformer с 8B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.

Проверенная архитектура Dense Transformer
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

internlm3-8b-instruct

internlm/internlm3-8b-instruct

Официальный · BF16 · safetensors

Проверенная среда выполнения: vLLM Transformers

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов15.35 GB
KV-кэш2 GB
Накладные расходы среды выполнения7.84 GB
Итого с запасом31.24 GB

Рекомендуемое соотношение цены и качества

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

109.76 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Самый дешевый подходящий вариант

2× NVIDIA L4 24GB

48 GB общая VRAM · pcie

16.76 GB запаса · Доступно

USD 500 / месяц

Максимальная производительность

1× NVIDIA H200 SXM 141GB

141 GB общая VRAM · nvswitch

109.76 GB запаса · Ограниченная мощность

USD 2 345 / месяц

Лицензия и самостоятельный хостинг

Все 8 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

InternLM3 8B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

История версии

internlm/internlm/internlm3-8b

Сведения об источнике

Официальный источник

Ревизия источника: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6

Частые вопросы

Сколько VRAM требуется для InternLM3 8B?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают InternLM3 8B?

Официальные подтверждения сертифицированы для vllm, transformers.

Можно ли использовать InternLM3 8B коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.

Официальные источники

Последняя проверка: 2026-08-26