Falcon-H1R-7B-FP8
Официальный · FP8 · safetensors
Проверенная среда выполнения: SGLang Transformers vLLM
| Точность / квантование | Формат | Биты | Доверие к издателю | Статус развертывания |
|---|---|---|---|---|
| FP8 | safetensors | 8 | Официальный | Проверенная среда выполнения |
Falcon · Рассуждение · Falcon-H1R
Falcon-H1R 7B FP8: характеристики, требования к GPU, хостинг и развертывание
Falcon-H1R 7B FP8 — версия Текущий направления Рассуждение семейства Falcon, подтвержденная официальной ревизией.
Всего параметров7,6B
Активные параметрыПлотная модель
Окно контекста262 144 tokens
Статус версииТекущий · Текущий
АрхитектураFalconH1ForCausalLM
МодальностиТекст
ЛицензияЛицензия Falcon LLM
Статус развертыванияРазвертывается с сертифицированной конфигурацией
Коммерческий статусКоммерческое использование разрешено с условиями
Дата выпуска2026-01-28
Архитектура, преимущества и сценарии
Falcon-H1R 7B FP8 — официальная модель Technology Innovation Institute для самостоятельного хостинга в направлении Falcon Рассуждение. Архитектура FalconH1ForCausalLM, 7.6B и проверенный контекст 262,144 токенов.
Falcon-H1R 7B FP8 использует FalconH1ForCausalLM с 7.6B. Профиль содержит 44 слоев, ширину 3072 и 12 голов внимания, если они опубликованы.
Проверенная архитектура FalconH1ForCausalLM
Сертифицированный контекст 262,144 токенов
Официальное происхождение чекпоинта
Частный LLM-инференс
Агентные процессы
Обработка длинных документов
Сертифицированные чекпоинты и квантования
Показаны только точные варианты этой версии, подтвержденные источником.
Рекомендуемое оборудование
Используйте только сертифицированные конфигурации среды выполнения с точной разрядностью чекпоинта. Рейтинг проверяет веса, KV-кэш, накладные расходы, архитектуру GPU и топологию.
Оценка памяти весов7.29 GB
KV-кэш0.17 GB
Накладные расходы среды выполнения6.06 GB
Итого с запасом16.77 GB
Рекомендуемое соотношение цены и качества
1× NVIDIA H100 SXM 80GB
80 GB общая VRAM · nvswitch
63.23 GB запаса · Доступно
USD 1 860 / месяцСамый дешевый подходящий вариант
1× NVIDIA H100 PCIe 80GB
80 GB общая VRAM · pcie
63.23 GB запаса · Ограниченная мощность
USD 1 579 / месяцМаксимальная производительность
1× NVIDIA H200 SXM 141GB
141 GB общая VRAM · nvswitch
124.23 GB запаса · Ограниченная мощность
USD 2 345 / месяцЛицензия и самостоятельный хостинг
Все 7.6 B резидентных весов должны поместиться на выбранных GPU. Контекст и параллельность увеличивают KV-кэш.
Falcon-H1R 7B FP8 опубликована под лицензией Лицензия Falcon LLM. Сохраняются официальный URL и дата проверки.
Коммерческое использование разрешено с условиями. Коммерческое использование допускается на условиях. Перед развертыванием изучите официальные условия по ссылке.
История версии
tii/falcon/falcon-h1r-7b-fp8 @ edca4b7d5330a3904e3eb7facdce0ae6f5dba76d47e366be0f35584d47a6d3c4
Частые вопросы
Сколько VRAM требуется для Falcon-H1R 7B FP8?
Оценка зависит от точности, контекста и параллельности и использует сертифицированные данные.
Какие среды выполнения поддерживают Falcon-H1R 7B FP8?
Официальные подтверждения сертифицированы для transformers, vllm, sglang.
Можно ли использовать Falcon-H1R 7B FP8 коммерчески?
Сохраненная классификация: Коммерческое использование разрешено с условиями. Смотрите официальные условия Лицензия Falcon LLM.
Официальные источники
Последняя проверка: 2026-08-26