gemma-3-12b-it
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
Gemma · Allgemein · Gemma 3
Gemma 3 12B IT: Daten, GPU-Bedarf, Hosting und Bereitstellung
Gemma 3 12B IT ist eine Neu-Version im Allgemein-Zweig der Gemma-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter12,0B
Aktive ParameterDichtes Modell
Kontextfenster128.000 tokens
VersionsstatusNeu · Neu
ArchitekturDense Transformer
ModalitätenText, Bild
LizenzGemma-Nutzungsbedingungen
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung unter Auflagen erlaubt
Veröffentlichungsdatum2025-03-01
Architektur, Stärken und Einsatzbereiche
Gemma 3 12B IT ist eine offizielle selbst hostbare Google-Version im Zweig Gemma Allgemein. Sie nutzt Dense Transformer mit 12B und 128,000 geprüften Kontext-Token.
Gemma 3 12B IT nutzt Dense Transformer mit 12B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Dense Transformer-Architektur
128,000 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher23.02 GB
KV cache2 GB
Laufzeitaufwand9.22 GB
Gesamt mit Sicherheitsreserve42.47 GB
Empfohlenes Preis-Leistungs-Verhältnis
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
98.53 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatGünstigste geeignete Option
2× NVIDIA L4 24GB
48 GB VRAM gesamt · pcie
5.53 GB Reserve · Verfügbar
USD 500 / MonatHöchste Leistung
1× NVIDIA H200 SXM 141GB
141 GB VRAM gesamt · nvswitch
98.53 GB Reserve · Begrenzte Kapazität
USD 2.345 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 12 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
Gemma 3 12B IT wird unter Gemma-Nutzungsbedingungen veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung unter Auflagen erlaubt. Die kommerzielle Nutzung ist an Bedingungen geknüpft. Prüfen Sie vor der Bereitstellung die verlinkten offiziellen Bedingungen.
Alternativen und gleichrangige Varianten
Gemma 3 27B IT, Gemma 4 12B IT, Gemma 4 31B IT, Gemma 4 26B-A4B IT
Versionsverlauf
google/gemma/gemma-3-12b-it
Quellendetails
Quellrevision: 4f0c195eeedeb238fd660bbc25f073a1b0fb4f1d8adb8d2f8103e12cb2defc46
Häufige Fragen
Wie viel VRAM benötigt Gemma 3 12B IT?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen Gemma 3 12B IT?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf Gemma 3 12B IT kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung unter Auflagen erlaubt. Maßgeblich sind die offiziellen Gemma-Nutzungsbedingungen-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26