gemma-4-12B-it
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
Gemma · Allgemein · Gemma 4
Gemma 4 12B IT: Daten, GPU-Bedarf, Hosting und Bereitstellung
Gemma 4 12B IT ist eine Aktuell-Version im Allgemein-Zweig der Gemma-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter12,0B
Aktive ParameterDichtes Modell
Kontextfenster262.144 tokens
VersionsstatusAktuell · Aktuell
ArchitekturGemma4UnifiedForConditionalGeneration
ModalitätenText, Bild, Audio
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-05-23
Architektur, Stärken und Einsatzbereiche
Gemma 4 12B IT ist eine offizielle selbst hostbare Google-Version im Zweig Gemma Allgemein. Sie nutzt Gemma4UnifiedForConditionalGeneration mit 12B und 262,144 geprüften Kontext-Token.
Gemma 4 12B IT nutzt Gemma4UnifiedForConditionalGeneration mit 12B. Das Quellenprofil enthält 48 Schichten, Breite 3840 und 16 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Gemma4UnifiedForConditionalGeneration-Architektur
262,144 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher23.02 GB
KV cache3 GB
Laufzeitaufwand9.4 GB
Gesamt mit Sicherheitsreserve43.93 GB
Empfohlenes Preis-Leistungs-Verhältnis
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
97.07 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatGünstigste geeignete Option
2× NVIDIA L4 24GB
48 GB VRAM gesamt · pcie
4.07 GB Reserve · Verfügbar
USD 500 / MonatHöchste Leistung
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
97.07 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 12 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Gemma 4 12B IT wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
Gemma 4 31B IT, Gemma 4 26B-A4B IT, Gemma 3 27B IT
Versionsverlauf
google/gemma/gemma-4-12b-it
Quellendetails
Quellrevision: c0b5ed3f8356289e6ba070b6a9006fc66e475c195c78a18218f84c13055d5e67
Häufige Fragen
Wie viel VRAM benötigt Gemma 4 12B IT?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Gemma 4 12B IT?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf Gemma 4 12B IT kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26