Перейти к основному содержимому

Seed-OSS · Общий · Seed-OSS 36B

Seed-OSS 36B Instruct: характеристики, требования к GPU, хостинг и развертывание

Seed-OSS 36B Instruct — версия Текущий направления Общий семейства Seed-OSS, подтвержденная официальной ревизией.

Техническая схема развертывания Seed-OSS 36B Instruct
Эталонный поток; точные данные указаны отдельно.
Всего параметров36,0B
Активные параметрыПлотная модель
Окно контекста524 288 tokens
Статус версииТекущий · Текущий
АрхитектураSeedOssForCausalLM
МодальностиТекст
Лицензияapache-2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2025-08-20

Архитектура, преимущества и сценарии

Seed-OSS 36B Instruct — официальная модель ByteDance Seed для самостоятельного хостинга в направлении Seed-OSS Общий. Архитектура SeedOssForCausalLM, 36B и проверенный контекст 524,288 токенов.

Seed-OSS 36B Instruct использует SeedOssForCausalLM с 36B. Профиль содержит 64 слоев, ширину 5120 и 80 голов внимания, если они опубликованы.

Проверенная архитектура SeedOssForCausalLM
Сертифицированный контекст 524,288 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов

Сертифицированные чекпоинты и квантования

Показаны только точные варианты этой версии, подтвержденные источником.

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

Официальный · BF16 · safetensors

Проверенная среда выполнения: Transformers vLLM

Точность / квантованиеФорматБитыДоверие к издателюСтатус развертывания
BF16safetensors16ОфициальныйПроверенная среда выполнения

Рекомендуемое оборудование

Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.

Оценка памяти весов69.07 GB
KV-кэш2 GB
Накладные расходы среды выполнения17.89 GB
Итого с запасом110.31 GB

Рекомендуемое соотношение цены и качества

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

49.69 GB запаса · Доступно

USD 1 830 / месяц

Самый дешевый подходящий вариант

5× NVIDIA L4 24GB

120 GB общая VRAM · pcie

9.69 GB запаса · Доступно

USD 1 250 / месяц

Максимальная производительность

2× NVIDIA A100 SXM 80GB

160 GB общая VRAM · nvlink

49.69 GB запаса · Доступно

USD 1 830 / месяц

Лицензия и самостоятельный хостинг

Все 36 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.

Seed-OSS 36B Instruct опубликована под лицензией apache-2.0. Сохраняются официальный URL и дата проверки.

Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.

Подготовленные сравнения

История версии

bytedance-seed/seed-oss/seed-oss-36b-instruct

Сведения об источнике

Официальный источник

Ревизия источника: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

Частые вопросы

Сколько VRAM требуется для Seed-OSS 36B Instruct?

Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.

Какие среды выполнения поддерживают Seed-OSS 36B Instruct?

Официальные подтверждения сертифицированы для transformers, vllm.

Можно ли использовать Seed-OSS 36B Instruct коммерчески?

Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия apache-2.0.

Официальные источники

Последняя проверка: 2026-09-03