granite-4.2-8b
Officiel · BF16 · safetensors
Environnement d’exécution certifié: SGLang Transformers vLLM
| Précision / quantification | Format | Bits | Confiance éditeur | État de déploiement |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Officiel | Environnement d’exécution certifié |
IBM Granite · Général · Granite 4.2
Granite 4.2 8B : caractéristiques, besoins GPU, hébergement et déploiement
Granite 4.2 8B est une version Actuel de la branche Général de IBM Granite, certifiée depuis sa révision officielle.
Paramètres totaux8,0B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionActuel · Actuel
Architecture du modèleGraniteForCausalLM
ModalitésTexte
LicenceLicence Apache 2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2026-08-25
Architecture, points forts et usages
Granite 4.2 8B est une version officielle auto-hébergeable de IBM dans la branche IBM Granite Général. Elle utilise GraniteForCausalLM avec 8B et un contexte vérifié de 131,072 tokens.
Granite 4.2 8B utilise GraniteForCausalLM avec 8B. Le profil vérifié indique 40 couches, une largeur cachée de 4096 et 32 têtes d’attention lorsque ces valeurs sont publiées.
Architecture GraniteForCausalLM vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs
Checkpoints et quantifications certifiés
Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.
Matériel recommandé
Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.
Mémoire estimée des poids15.35 GB
Cache KV1.25 GB
Surcharge de l’environnement d’exécution7.71 GB
Total avec marge de sécurité30.14 GB
Meilleur rapport qualité-prix
1× NVIDIA A100 SXM 80GB
80 GB VRAM totale · nvlink
49.86 GB de marge · Disponible
USD 915 / moisOption viable la moins chère
2× NVIDIA L4 24GB
48 GB VRAM totale · pcie
17.86 GB de marge · Disponible
USD 500 / moisPerformances maximales
1× NVIDIA H200 SXM 141GB
141 GB VRAM totale · nvswitch
110.86 GB de marge · Capacité limitée
USD 2 345 / moisLicence et considérations d’auto-hébergement
Les 8 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.
Granite 4.2 8B est publié sous Licence Apache 2.0. Le lien officiel de licence et la date de vérification sont conservés.
Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.
Alternatives et variantes associées
Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B
Chronologie des versions
ibm/granite/granite-4-2-8b
Détails de la source
Révision de la source: cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78
Questions fréquentes
Quelle VRAM faut-il pour Granite 4.2 8B ?
L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.
Quels environnements d’exécution prennent en charge Granite 4.2 8B ?
Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers, vllm, sglang.
Granite 4.2 8B peut-il être utilisé commercialement ?
La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de Licence Apache 2.0.
Références officielles
Dernière vérification: 2026-08-26