Zum Hauptinhalt springen

IBM Granite · Allgemein · Granite 3.3

Granite 3.3 8B: Daten, GPU-Bedarf, Hosting und Bereitstellung

Granite 3.3 8B ist eine Vorherig-Version im Allgemein-Zweig der IBM Granite-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für Granite 3.3 8B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter8,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusVorherig · Vorherig
ArchitekturDense Transformer
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-04-09

Architektur, Stärken und Einsatzbereiche

Granite 3.3 8B ist eine offizielle selbst hostbare IBM-Version im Zweig IBM Granite Allgemein. Sie nutzt Dense Transformer mit 8B und 131,072 geprüften Kontext-Token.

Granite 3.3 8B nutzt Dense Transformer mit 8B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

granite-3.3-8b-instruct

ibm-granite/granite-3.3-8b-instruct

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Transformers

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher15.35 GB
KV cache2 GB
Laufzeitaufwand7.84 GB
Gesamt mit Sicherheitsreserve31.24 GB

Empfohlenes Preis-Leistungs-Verhältnis

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

109.76 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Günstigste geeignete Option

2× NVIDIA L4 24GB

48 GB VRAM gesamt · pcie

16.76 GB Reserve · Verfügbar

USD 500 / Monat

Höchste Leistung

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

109.76 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 8 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

Granite 3.3 8B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Alternativen und gleichrangige Varianten

Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

Versionsverlauf

ibm/granite/granite-3-3-8b

Quellendetails

Offizielle Quelle

Quellrevision: 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468

Häufige Fragen

Wie viel VRAM benötigt Granite 3.3 8B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen Granite 3.3 8B?

Geprüfte Upstream-Belege liegen für transformers vor.

Darf Granite 3.3 8B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26