granite-4.2-3b
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: SGLang Transformers vLLM
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
IBM Granite · Allgemein · Granite 4.2
Granite 4.2 3B: Daten, GPU-Bedarf, Hosting und Bereitstellung
Granite 4.2 3B ist eine Aktuell-Version im Allgemein-Zweig der IBM Granite-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter3,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusAktuell · Aktuell
ArchitekturGraniteForCausalLM
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-08-25
Architektur, Stärken und Einsatzbereiche
Granite 4.2 3B ist eine offizielle selbst hostbare IBM-Version im Zweig IBM Granite Allgemein. Sie nutzt GraniteForCausalLM mit 3B und 131,072 geprüften Kontext-Token.
Granite 4.2 3B nutzt GraniteForCausalLM mit 3B. Das Quellenprofil enthält 40 Schichten, Breite 2560 und 40 Attention-Köpfe, soweit veröffentlicht.
Geprüfte GraniteForCausalLM-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher5.76 GB
KV cache0.63 GB
Laufzeitaufwand5.87 GB
Gesamt mit Sicherheitsreserve15.19 GB
Empfohlenes Preis-Leistungs-Verhältnis
1× NVIDIA A100 SXM 80GB
80 GB VRAM gesamt · nvlink
64.81 GB Reserve · Verfügbar
USD 915 / MonatGünstigste geeignete Option
1× NVIDIA L4 24GB
24 GB VRAM gesamt · pcie
8.81 GB Reserve · Verfügbar
USD 250 / MonatHöchste Leistung
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
125.81 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 3 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Granite 4.2 3B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
Granite 4.2 30B, Granite 4.2 8B, Granite 4.1 30B
Versionsverlauf
ibm/granite/granite-4-2-3b
Quellendetails
Quellrevision: dd9a1fe61833ecf5e9963237b60da9469bf3d5cf750bd93cde2c2997bb74da98
Häufige Fragen
Wie viel VRAM benötigt Granite 4.2 3B?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Granite 4.2 3B?
Geprüfte Upstream-Belege liegen für transformers, vllm, sglang vor.
Darf Granite 4.2 3B kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26