granite-4.1-30b
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
IBM Granite · Allgemein · Granite 4.1
Granite 4.1 30B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Granite 4.1 30B ist eine Neu-Version im Allgemein-Zweig der IBM Granite-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter28,9B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusNeu · Neu
ArchitekturGraniteForCausalLM
ModalitätenText
Lizenzapache-2.0
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-04-06
Architektur, Stärken und Einsatzbereiche
Granite 4.1 30B ist eine offizielle selbst hostbare IBM-Version im Zweig IBM Granite Allgemein. Sie nutzt GraniteForCausalLM mit 28.9B und 131,072 geprüften Kontext-Token.
Granite 4.1 30B nutzt GraniteForCausalLM mit 28.9B. Das Quellenprofil enthält 64 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.
Geprüfte GraniteForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher55.45 GB
KV cache2 GB
Laufzeitaufwand15.06 GB
Gesamt mit Sicherheitsreserve89.91 GB
Empfohlenes Preis-Leistungs-Verhältnis
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
70.09 GB Reserve · Verfügbar
USD 1.830 / MonatGünstigste geeignete Option
4× NVIDIA L4 24GB
96 GB VRAM gesamt · pcie
6.09 GB Reserve · Verfügbar
USD 1.000 / MonatHöchste Leistung
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
70.09 GB Reserve · Verfügbar
USD 1.830 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 28.9 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Granite 4.1 30B wird unter apache-2.0 veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B
Versionsverlauf
ibm/granite/granite-4-1-30b
Quellendetails
Quellrevision: c9d5fa2930a611bb481573dc233b242ee8f2b45f60d32c68ce6bb1bd80e1be0c
Häufige Fragen
Wie viel VRAM benötigt Granite 4.1 30B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Granite 4.1 30B?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf Granite 4.1 30B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen apache-2.0-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-09-03