granite-4.2-8b
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: SGLang Transformers vLLM
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
IBM Granite · Allgemein · Granite 4.2
Granite 4.2 8B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Granite 4.2 8B ist eine Aktuell-Version im Allgemein-Zweig der IBM Granite-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter8,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturGraniteForCausalLM
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-08-25
Architektur, Stärken und Einsatzbereiche
Granite 4.2 8B ist eine offizielle selbst hostbare IBM-Version im Zweig IBM Granite Allgemein. Sie nutzt GraniteForCausalLM mit 8B und 131,072 geprüften Kontext-Token.
Granite 4.2 8B nutzt GraniteForCausalLM mit 8B. Das Quellenprofil enthält 40 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.
Geprüfte GraniteForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher15.35 GB
KV cache1.25 GB
Laufzeitaufwand7.71 GB
Gesamt mit Sicherheitsreserve30.14 GB
Empfohlenes Preis-Leistungs-Verhältnis
1× NVIDIA A100 SXM 80GB
80 GB VRAM gesamt · nvlink
49.86 GB Reserve · Verfügbar
USD 915 / MonatGünstigste geeignete Option
2× NVIDIA L4 24GB
48 GB VRAM gesamt · pcie
17.86 GB Reserve · Verfügbar
USD 500 / MonatHöchste Leistung
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
110.86 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 8 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Granite 4.2 8B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B
Versionsverlauf
ibm/granite/granite-4-2-8b
Quellendetails
Quellrevision: cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78
Häufige Fragen
Wie viel VRAM benötigt Granite 4.2 8B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Granite 4.2 8B?
Geprüfte Upstream-Belege liegen für transformers, vllm, sglang vor.
Darf Granite 4.2 8B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26