بازدان بۆ ناوەڕۆکی سەرەکی

OLMo · گشتی · OLMo 2

OLMo 2 32B: تایبەتمەندی، پێداویستییەکانی GPU، میوانداری و جێبەجێکردن

OLMo 2 32B is a recent General release in the OLMo family, certified from its immutable official source revision.

Technical deployment reference illustration for OLMo 2 32B
Reference deployment flow; exact architecture facts are listed separately.
کۆی پارامەتەرەکان٣٢٫٠B
پارامەتەرە چالاکەکانمۆدێلی چڕ
پەنجەرەی کۆنتێکست١٣١٬٠٧٢ tokens
دۆخی بڵاوکردنەوەنوێ · نوێ
تەلارسازیDense Transformer
شێوازەکاندەق
مۆڵەتApache 2.0
دۆخی جێبەجێکردنبە ڕێکخستنی پشتڕاستکراو جێبەجێ دەکرێت
دۆخی بازرگانیبەکارهێنانی بازرگانی ڕێگەپێدراوە
بەرواری بڵاوکردنەوە2025-03-12

تەلارسازی، بەهێزییەکان و بەکارهێنان

OLMo 2 32B is an official self-hostable Allen AI release in the OLMo General track. It uses Dense Transformer, carries 32B, supports a verified context window of 131,072 تۆکنەکان, and exposes only source-certified خاڵەکانی وەشان and ژینگەی جێبەجێکردن combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

OLMo 2 32B uses Dense Transformer with 32B. The stored architecture profile records 64 layers, hidden width 8192, 64 attention heads and a 131,072 تۆکن context ceiling where the official configuration publishes those fields.

Verified Dense Transformer architecture
131,072 تۆکن certified context
Official BF16, Unknown خاڵی وەشان coverage
Private LLM inference
Agentic workflows
Long-context document processing

خاڵەکانی پشکنین و کوانتایزکردنی پشتڕاستکراو

تەنها ئەو جۆرە وردانە پیشان دەدرێن کە سەرچاوە پشتڕاستی کردوونەوە و بەو وەشانەوە بەستراونەتەوە.

OLMo-2-0325-32B-Instruct

allenai/OLMo-2-0325-32B-Instruct

فەرمی · BF16 · safetensors

ژینگەی کارپێکردن پشتڕاستکراوەتەوە: Transformers

وردی / کوانتایزکردنفۆرماتبیتمتمانە بە بڵاوکەرەوەدۆخی جێبەجێکردن
BF16safetensors16فەرمیژینگەی کارپێکردن پشتڕاستکراوەتەوە

سەختەواڵەی پێشنیارکراو

Use only the listed transformers ژینگەی جێبەجێکردن configuration with the exact خاڵی وەشان precision. The recommendation engine checks weight memory, کاشی KV, ژینگەی جێبەجێکردن overhead, safety توانای زیادەی بەردەست, GPU architecture and topology before ranking rentable and reference hardware.

بیرگەی خەمڵێنراوی کێش61.39 GB
کاشی KV2 GB
پێداویستییە زیادەکانی ژینگەی کارپێکردن16.13 GB
کۆی گشتی لەگەڵ پاشەکەوتی ئاسایش98.61 GB

باشترین بەهای پێشنیارکراو

2× NVIDIA A100 SXM 80GB

160 GB کۆی VRAM · nvlink

61.39 GB بۆشایی پاشەکەوت · بەردەستە

USD ١٬٨٣٠ / مانگ

هەرزانترین هەڵبژاردەی کارا

5× NVIDIA L4 24GB

120 GB کۆی VRAM · pcie

21.39 GB بۆشایی پاشەکەوت · بەردەستە

USD ١٬٢٥٠ / مانگ

بەرزترین کارایی

2× NVIDIA A100 SXM 80GB

160 GB کۆی VRAM · nvlink

61.39 GB بۆشایی پاشەکەوت · بەردەستە

USD ١٬٨٣٠ / مانگ

مۆڵەت و بڕیارەکانی میوانداری لەسەر خۆت

The full 32B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

OLMo 2 32B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

بەکارهێنانی بازرگانی ڕێگەپێدراوە. مۆڵەتی فەرمی بەکارهێنانی بازرگانی ڕێگەپێدەدات؛ پابەندییەکانی هێشتا جێبەجێ دەبن.

جێگرەوەکان و جۆرە هاوتەمەنەکان

OLMo 3.1 32B Instruct

ڕێڕەوی کاتیی وەشان

allenai/olmo/olmo-2-32b

وردەکاریی سەرچاوە

سەرچاوەی فەرمی

وەشانی سەرچاوە: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572

پرسیارە باوەکان

How much VRAM does OLMo 2 32B require?

The exact estimate depends on خاڵی وەشان precision, context and concurrency; the page recommendation uses the certified memory engine and compatible ژینگەی جێبەجێکردن configurations.

Which ژینگەکانی جێبەجێکردن پشتگیری OLMo 2 32B?

Certified upstream ژینگەی جێبەجێکردن evidence is available for transformers.

Can OLMo 2 32B be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

سەرچاوە فەرمییەکان

دوا جار پشتڕاستکراوەتەوە: 2026-08-26