OLMo-2-0325-32B-Instruct
allenai/OLMo-2-0325-32B-Instruct
رسمي · BF16 · safetensors
اجرا چاپېریال تایید شوی: Transformers
| Precision / quantization | بڼه | بټونه | پر خپروونکي باور | د ځایپرځای کولو حالت |
|---|---|---|---|---|
| BF16 | safetensors | 16 | رسمي | اجرا چاپېریال تایید شوی |
OLMo · عمومي · OLMo 2
OLMo 2 32B: ځانګړنې، د GPU اړتیاوې، کوربهتوب او ځایپرځای کول
OLMo 2 32B is a recent General release in the OLMo family, certified from its immutable official source revision.
ټول پارامېټرونه۳۲٫۰B
فعال پارامېټرونهDense ماډل
د context کړکۍ۱۳۱٬۰۷۲ tokens
د نسخې وضعیتوروستی · وروستی
معماريDense Transformer
موداليټيګانېمتن
جوازApache 2.0
د ځایپرځای کولو حالتله تصدیق شوي تنظیم سره ځایپرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2025-03-12
معماري، پیاوړتیاوې او کارونې
OLMo 2 32B is an official self-hostable Allen AI release in the OLMo General track. It uses Dense Transformer, carries 32B, supports a verified context window of 131,072 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
OLMo 2 32B uses Dense Transformer with 32B. The stored architecture profile records 64 layers, hidden width 8192, 64 attention heads and a 131,072 ټوکن context ceiling where the official configuration publishes those fields.
Verified Dense Transformer architecture
131,072 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
تایید شوي checkpoint-ونه او quantization-ونه
یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.
سپارښتل شوی هارډوېیر
Use only the listed transformers د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.
د وزنونو اټکلي حافظه61.39 GB
KV cache2 GB
د اجرا چاپېریال اضافي اړتیا16.13 GB
ټول له خوندیتوب حاشیې سره98.61 GB
د ارزښت له مخې غوره سپارښتنه
2× NVIDIA A100 SXM 80GB
160 GB ټول VRAM · nvlink
61.39 GB اضافي ظرفیت · شته
USD ۱٬۸۳۰ / میاشتد عملي انتخابونو تر ټولو ټیټ لګښت
5× NVIDIA L4 24GB
120 GB ټول VRAM · pcie
21.39 GB اضافي ظرفیت · شته
USD ۱٬۲۵۰ / میاشتتر ټولو لوړ فعالیت
2× NVIDIA A100 SXM 80GB
160 GB ټول VRAM · nvlink
61.39 GB اضافي ظرفیت · شته
USD ۱٬۸۳۰ / میاشتد جواز او خپل کوربهتوب ملاحظات
The full 32B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
OLMo 2 32B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.
سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.
بدیلونه او همنسله بڼې
OLMo 3.1 32B Instruct
د نسخو مهالوېش
allenai/olmo/olmo-2-32b
د سرچینې جزئیات
د سرچینې revision: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572
ډېرې پوښتل شوې پوښتنې
How much VRAM does OLMo 2 32B require?
The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.
Which د اجرا چاپېریالونه ملاتړ OLMo 2 32B?
Certified upstream د اجرا چاپېریال evidence is available for transformers.
Can OLMo 2 32B be used commercially?
The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.
رسمي مراجع
وروستی تایید: 2026-08-26