Olmo-3.1-32B-Instruct
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
OLMo · सामान्य · OLMo 3.1
OLMo 3.1 32B Instruct: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
OLMo 3.1 32B Instruct, OLMo परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३२.२B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा६५,५३६ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाOlmo3ForCausalLM
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-12-10
आर्किटेक्चर, खूबियाँ और उपयोग
OLMo 3.1 32B Instruct, Allen AI का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह OLMo सामान्य शाखा में Olmo3ForCausalLM, 32.2B और 65,536 टोकन सत्यापित संदर्भ उपयोग करता है।
OLMo 3.1 32B Instruct Olmo3ForCausalLM और 32.2B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 5120 और 40 attention heads दर्ज हैं।
सत्यापित Olmo3ForCausalLM आर्किटेक्चर
65,536 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी61.78 GB
केवी कैश2 GB
रनटाइम ओवरहेड16.2 GB
सुरक्षा मार्जिन सहित कुल99.17 GB
अनुशंसित सर्वोत्तम मूल्य
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
60.83 GB मार्जिन · उपलब्ध
USD १,८३० / माहसबसे कम लागत वाला उपयुक्त विकल्प
5× NVIDIA L4 24GB
120 GB कुल VRAM · pcie
20.83 GB मार्जिन · उपलब्ध
USD १,२५० / माहसर्वोच्च प्रदर्शन
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
60.83 GB मार्जिन · उपलब्ध
USD १,८३० / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 32.2 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
OLMo 3.1 32B Instruct Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
OLMo 2 32B
रिलीज़ क्रम
allenai/olmo/olmo-3-1-32b-instruct
स्रोत का विवरण
स्रोत संशोधन: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb
सामान्य प्रश्न
OLMo 3.1 32B Instruct को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम OLMo 3.1 32B Instruct को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या OLMo 3.1 32B Instruct का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26