Falcon-H1-34B-Instruct
Officiel · BF16 · safetensors
Environnement d’exécution certifié: Transformers
| Précision / quantification | Format | Bits | Confiance éditeur | État de déploiement |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Officiel | Environnement d’exécution certifié |
Falcon · Général · Falcon-H1
Falcon-H1 34B : caractéristiques, besoins GPU, hébergement et déploiement
Falcon-H1 34B est une version Actuel de la branche Général de Falcon, certifiée depuis sa révision officielle.
Paramètres totaux34,0B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionActuel · Actuel
Architecture du modèleDense Transformer
ModalitésTexte
LicenceLicence Falcon LLM
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé sous conditions
Date de sortie2025-05-01
Architecture, points forts et usages
Falcon-H1 34B est une version officielle auto-hébergeable de Technology Innovation Institute dans la branche Falcon Général. Elle utilise Dense Transformer avec 34B et un contexte vérifié de 131,072 tokens.
Falcon-H1 34B utilise Dense Transformer avec 34B. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.
Architecture Dense Transformer vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs
Checkpoints et quantifications certifiés
Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.
Matériel recommandé
Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.
Mémoire estimée des poids65.23 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution16.92 GB
Total avec marge de sécurité104.34 GB
Meilleur rapport qualité-prix
2× NVIDIA A100 SXM 80GB
160 GB VRAM totale · nvlink
55.66 GB de marge · Disponible
USD 1 830 / moisOption viable la moins chère
5× NVIDIA L4 24GB
120 GB VRAM totale · pcie
15.66 GB de marge · Disponible
USD 1 250 / moisPerformances maximales
2× NVIDIA A100 SXM 80GB
160 GB VRAM totale · nvlink
55.66 GB de marge · Disponible
USD 1 830 / moisLicence et considérations d’auto-hébergement
Les 34 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.
Falcon-H1 34B est publié sous Licence Falcon LLM. Le lien officiel de licence et la date de vérification sont conservés.
Usage commercial autorisé sous conditions. L’usage commercial est soumis à conditions. Consultez les conditions officielles indiquées avant tout déploiement.
Chronologie des versions
tii/falcon/falcon-h1-34b
Détails de la source
Révision de la source: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
Questions fréquentes
Quelle VRAM faut-il pour Falcon-H1 34B ?
L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.
Quels environnements d’exécution prennent en charge Falcon-H1 34B ?
Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers.
Falcon-H1 34B peut-il être utilisé commercialement ?
La classification enregistrée est Usage commercial autorisé sous conditions. Consultez les conditions officielles de Licence Falcon LLM.
Références officielles
Dernière vérification: 2026-08-26