اصلي منځپانګې ته ورټوپ کړئ

Gemma · عمومي · Gemma 4

Gemma 4 12B IT: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

Gemma 4 12B IT is a current General release in the Gemma family, certified from its immutable official source revision.

Technical deployment reference illustration for Gemma 4 12B IT
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۱۲٫۰B
فعال پارامېټرونهDense ماډل
د context کړکۍ۲۶۲٬۱۴۴ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريGemma4UnifiedForConditionalGeneration
موداليټي‌ګانېمتن, انځور, غږ
جوازApache 2.0
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2026-05-23

معماري، پیاوړتیاوې او کارونې

Gemma 4 12B IT is an official self-hostable Google release in the Gemma General track. It uses Gemma4UnifiedForConditionalGeneration, carries 12B, supports a verified context window of 262,144 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

Gemma 4 12B IT uses Gemma4UnifiedForConditionalGeneration with 12B. The stored architecture profile records 48 layers, hidden width 3840, 16 attention heads and a 262,144 ټوکن context ceiling where the official configuration publishes those fields.

Verified Gemma4UnifiedForConditionalGeneration architecture
262,144 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
Vision-language analysis
Audio understanding

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

gemma-4-12B-it

google/gemma-4-12B-it

رسمي · BF16 · safetensors

اجرا چاپېریال تایید شوی: Transformers

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
BF16safetensors16رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed transformers د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه23.02 GB
KV cache3 GB
د اجرا چاپېریال اضافي اړتیا9.4 GB
ټول له خوندیتوب حاشیې سره43.93 GB

د ارزښت له مخې غوره سپارښتنه

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

97.07 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

2× NVIDIA L4 24GB

48 GB ټول VRAM · pcie

4.07 GB اضافي ظرفیت · شته

USD ۵۰۰ / میاشت

تر ټولو لوړ فعالیت

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

97.07 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 12B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

Gemma 4 12B IT is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.

بدیلونه او هم‌نسله بڼې

Gemma 4 31B IT, Gemma 4 26B-A4B IT, Gemma 3 27B IT

د نسخو مهالوېش

google/gemma/gemma-4-12b-it

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: c0b5ed3f8356289e6ba070b6a9006fc66e475c195c78a18218f84c13055d5e67

ډېرې پوښتل شوې پوښتنې

How much VRAM does Gemma 4 12B IT require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ Gemma 4 12B IT?

Certified upstream د اجرا چاپېریال evidence is available for transformers.

Can Gemma 4 12B IT be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-08-26