Falcon-H1-34B-Instruct
Официальный · BF16 · safetensors
Проверенная среда выполнения: Transformers
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Официальный | Проверенная среда выполнения |
Falcon · Общий · Falcon-H1
Falcon-H1 34B: характеристики, требования к GPU, хостинг и развертывание
Falcon-H1 34B — версия Текущий направления Общий семейства Falcon, подтвержденная официальной ревизией.
Всего параметров34,0B
Активные параметрыПлотная модель
Окно контекста131 072 tokens
Статус версииТекущий · Текущий
АрхитектураDense Transformer
МодальностиТекст
ЛицензияЛицензия Falcon LLM
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2025-05-01
Архитектура, преимущества и сценарии
Falcon-H1 34B — официальная модель Technology Innovation Institute для самостоятельного хостинга в направлении Falcon Общий. Архитектура Dense Transformer, 34B и проверенный контекст 131,072 токенов.
Falcon-H1 34B использует Dense Transformer с 34B. Профиль содержит 64 слоев, ширину 8192 и 64 голов внимания, если они опубликованы.
Проверенная архитектура Dense Transformer
Сертифицированный контекст 131,072 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов65.23 GB
KV-кэш2 GB
Накладные расходы среды выполнения16.92 GB
Итого с запасом104.34 GB
Рекомендуемое соотношение цены и качества
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
55.66 GB запаса · Доступно
USD 1 830 / месяцСамый дешевый подходящий вариант
5× NVIDIA L4 24GB
120 GB общая VRAM · pcie
15.66 GB запаса · Доступно
USD 1 250 / месяцМаксимальная производительность
2× NVIDIA A100 SXM 80GB
160 GB общая VRAM · nvlink
55.66 GB запаса · Доступно
USD 1 830 / месяцЛицензия и самостоятельный хостинг
Все 34 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
Falcon-H1 34B опубликована под лицензией Лицензия Falcon LLM. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.
История версии
tii/falcon/falcon-h1-34b
Сведения об источнике
Ревизия источника: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
Частые вопросы
Сколько VRAM требуется для Falcon-H1 34B?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают Falcon-H1 34B?
Официальные подтверждения сертифицированы для transformers.
Можно ли использовать Falcon-H1 34B коммерчески?
Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Лицензия Falcon LLM.
Официальные источники
Последняя проверка: 2026-08-26