granite-4.2-30b
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: SGLang Transformers vLLM
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
IBM Granite · Allgemein · Granite 4.2
Granite 4.2 30B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Granite 4.2 30B ist eine Aktuell-Version im Allgemein-Zweig der IBM Granite-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter30,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturGraniteForCausalLM
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-08-25
Architektur, Stärken und Einsatzbereiche
Granite 4.2 30B ist eine offizielle selbst hostbare IBM-Version im Zweig IBM Granite Allgemein. Sie nutzt GraniteForCausalLM mit 30B und 131,072 geprüften Kontext-Token.
Granite 4.2 30B nutzt GraniteForCausalLM mit 30B. Das Quellenprofil enthält 64 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.
Geprüfte GraniteForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher57.56 GB
KV cache2 GB
Laufzeitaufwand15.44 GB
Gesamt mit Sicherheitsreserve92.99 GB
Empfohlenes Preis-Leistungs-Verhältnis
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
67.01 GB Reserve · Verfügbar
USD 1.830 / MonatGünstigste geeignete Option
4× NVIDIA L4 24GB
96 GB VRAM gesamt · pcie
3.01 GB Reserve · Verfügbar
USD 1.000 / MonatHöchste Leistung
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
67.01 GB Reserve · Verfügbar
USD 1.830 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 30 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Granite 4.2 30B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
Granite 4.2 8B, Granite 4.2 3B, Granite 4.1 30B
Versionsverlauf
ibm/granite/granite-4-2-30b @ 37162f41301604396463c91856e5c7bdfaf69aaab7a36920fee97fedd14fa694
Häufige Fragen
Wie viel VRAM benötigt Granite 4.2 30B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Granite 4.2 30B?
Geprüfte Upstream-Belege liegen für transformers, vllm, sglang vor.
Darf Granite 4.2 30B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26