Yi-1.5-34B-Chat
Официальный · BF16 · safetensors
Проверенная среда выполнения: Transformers
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Официальный | Проверенная среда выполнения |
Yi · Общий · Yi 1.5
Yi 1.5 34B: характеристики, требования к GPU, хостинг и развертывание
Yi 1.5 34B — версия Устаревший направления Общий семейства Yi, подтвержденная официальной ревизией.
Всего параметров34,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииУстаревший · Устаревший
АрхитектураDense Transformer
МодальностиТекст
ЛицензияЛицензия Apache 2.0
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено
Дата выпуска2024-05-10
Архитектура, преимущества и сценарии
Yi 1.5 34B — официальная модель 01.AI для самостоятельного хостинга в направлении Yi Общий. Архитектура Dense Transformer, 34B и проверенный контекст 131,072 токенов.
Yi 1.5 34B использует Dense Transformer с 34B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.
Проверенная архитектура Dense Transformer
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов65.23 GB
KV-кэш2 GB
Накладные расходы среды выполнения16.92 GB
Итого с запасом104.34 GB
Рекомендуемое соотношение цены и качества
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
55.66 GB запаса · Доступно
USD 1 830 / месяцСамый дешевый подходящий вариант
5× NVIDIA L4 24GB
120 GB общая VRAM · pcie
15.66 GB запаса · Доступно
USD 1 250 / месяцМаксимальная производительность
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
55.66 GB запаса · Доступно
USD 1 830 / месяцЛицензия и самостоятельный хостинг
Все 34 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
Yi 1.5 34B опубликована под лицензией Лицензия Apache 2.0. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено. Официальная лицензия разрешает коммерческое использование; ее условия остаются обязательными.
История версии
01-ai/yi/yi-1-5-34b
Сведения об источнике
Ревизия источника: df4f4134237446ef11fb6dfc47b88c245cb9defef8dc1617249150af93f0b863
Частые вопросы
Сколько VRAM требуется для Yi 1.5 34B?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают Yi 1.5 34B?
Официальные подтверждения сертифицированы для transformers.
Можно ли использовать Yi 1.5 34B коммерчески?
Сохраненная классификация: Коммерческое использование разрешено. Смотрите официальные условия Лицензия Apache 2.0.
Официальные источники
Последняя проверка: 2026-08-26