granite-4.2-3b
Officiel · BF16 · safetensors
Environnement d’exécution certifié: SGLang Transformers vLLM
| Précision / quantification | Format | Bits | Confiance éditeur | État de déploiement |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Officiel | Environnement d’exécution certifié |
IBM Granite · Général · Granite 4.2
Granite 4.2 3B : caractéristiques, besoins GPU, hébergement et déploiement
Granite 4.2 3B est une version Actuel de la branche Général de IBM Granite, certifiée depuis sa révision officielle.
Paramètres totaux3,0B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionActuel · Actuel
Architecture du modèleGraniteForCausalLM
ModalitésTexte
LicenceLicence Apache 2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2026-08-25
Architecture, points forts et usages
Granite 4.2 3B est une version officielle auto-hébergeable de IBM dans la branche IBM Granite Général. Elle utilise GraniteForCausalLM avec 3B et un contexte vérifié de 131,072 tokens.
Granite 4.2 3B utilise GraniteForCausalLM avec 3B. Le profil vérifié indique 40 couches, une largeur cachée de 2560 et 40 têtes d’attention lorsque ces valeurs sont publiées.
Architecture GraniteForCausalLM vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs
Checkpoints et quantifications certifiés
Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.
Matériel recommandé
Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.
Mémoire estimée des poids5.76 GB
Cache KV0.63 GB
Surcharge de l’environnement d’exécution5.87 GB
Total avec marge de sécurité15.19 GB
Meilleur rapport qualité-prix
1× NVIDIA A100 SXM 80GB
80 GB VRAM totale · nvlink
64.81 GB de marge · Disponible
USD 915 / moisOption viable la moins chère
1× NVIDIA L4 24GB
24 GB VRAM totale · pcie
8.81 GB de marge · Disponible
USD 250 / moisPerformances maximales
1× NVIDIA H200 SXM 141GB
141 GB VRAM totale · nvswitch
125.81 GB de marge · Capacité limitée
USD 2 345 / moisLicence et considérations d’auto-hébergement
Les 3 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.
Granite 4.2 3B est publié sous Licence Apache 2.0. Le lien officiel de licence et la date de vérification sont conservés.
Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.
Alternatives et variantes associées
Granite 4.2 30B, Granite 4.2 8B, Granite 4.1 30B
Chronologie des versions
ibm/granite/granite-4-2-3b
Détails de la source
Révision de la source: dd9a1fe61833ecf5e9963237b60da9469bf3d5cf750bd93cde2c2997bb74da98
Questions fréquentes
Quelle VRAM faut-il pour Granite 4.2 3B ?
L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.
Quels environnements d’exécution prennent en charge Granite 4.2 3B ?
Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers, vllm, sglang.
Granite 4.2 3B peut-il être utilisé commercialement ?
La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de Licence Apache 2.0.
Références officielles
Dernière vérification: 2026-08-26