Passer au contenu principal

IBM Granite · Général · Granite 4.1

Granite 4.1 30B : caractéristiques, besoins GPU, hébergement et déploiement

Granite 4.1 30B est une version Récent de la branche Général de IBM Granite, certifiée depuis sa révision officielle.

Illustration technique de déploiement pour Granite 4.1 30B
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux28,9B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionRécent · Récent
Architecture du modèleGraniteForCausalLM
ModalitésTexte
Licenceapache-2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2026-04-06

Architecture, points forts et usages

Granite 4.1 30B est une version officielle auto-hébergeable de IBM dans la branche IBM Granite Général. Elle utilise GraniteForCausalLM avec 28.9B et un contexte vérifié de 131,072 tokens.

Granite 4.1 30B utilise GraniteForCausalLM avec 28.9B. Le profil vérifié indique 64 couches, une largeur cachée de 4096 et 32 têtes d’attention lorsque ces valeurs sont publiées.

Architecture GraniteForCausalLM vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

granite-4.1-30b

ibm-granite/granite-4.1-30b

Officiel · BF16 · safetensors

Environnement d’exécution certifié: Transformers

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
BF16safetensors16OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids55.45 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution15.06 GB
Total avec marge de sécurité89.91 GB

Meilleur rapport qualité-prix

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

70.09 GB de marge · Disponible

USD 1 830 / mois

Option viable la moins chère

4× NVIDIA L4 24GB

96 GB VRAM totale · pcie

6.09 GB de marge · Disponible

USD 1 000 / mois

Performances maximales

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

70.09 GB de marge · Disponible

USD 1 830 / mois

Licence et considérations d’auto-hébergement

Les 28.9 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

Granite 4.1 30B est publié sous apache-2.0. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.

Alternatives et variantes associées

Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

Chronologie des versions

ibm/granite/granite-4-1-30b

Détails de la source

Source officielle

Révision de la source: c9d5fa2930a611bb481573dc233b242ee8f2b45f60d32c68ce6bb1bd80e1be0c

Questions fréquentes

Quelle VRAM faut-il pour Granite 4.1 30B ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge Granite 4.1 30B ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers.

Granite 4.1 30B peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de apache-2.0.

Références officielles

Dernière vérification: 2026-09-03