gpt-oss-120b
आधिकारिक · MXFP4 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| MXFP4 | safetensors | 4 | आधिकारिक | सत्यापित निष्पादन परिवेश |
GPT-OSS · सामान्य · GPT-OSS
GPT-OSS 120B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
GPT-OSS 120B, GPT-OSS परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर११७.०B
सक्रिय पैरामीटर५.१B
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाGptOssForCausalLM
मोडैलिटीपाठ
लाइसेंसapache-2.0
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ परिनियोज्य
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-08-04
आर्किटेक्चर, खूबियाँ और उपयोग
GPT-OSS 120B, OpenAI का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह GPT-OSS सामान्य शाखा में GptOssForCausalLM, 117B / 5.1B MoE और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
GPT-OSS 120B GptOssForCausalLM और 117B / 5.1B MoE उपयोग करता है। प्रकाशित होने पर 36 परतें, hidden width 2880 और 64 attention heads दर्ज हैं।
सत्यापित GptOssForCausalLM आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी56.12 GB
केवी कैश0.14 GB
रनटाइम ओवरहेड26.69 GB
सुरक्षा मार्जिन सहित कुल102.86 GB
तकनीकी रूप से संगत संदर्भ आकार
इस चेकपॉइंट के लिए वर्तमान FusionPointAI इन्वेंटरी रनटाइम, आर्किटेक्चर, टोपोलॉजी और मेमोरी के सभी नियम पार नहीं करती। वैश्विक संगत हार्डवेयर के लिए अनुमानक का उपयोग करें।
लाइसेंस और स्व-होस्टिंग विचार
पूरे 117 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
GPT-OSS 120B apache-2.0 के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
GPT-OSS 20B, gpt-oss-120b-Eagle3-v3, granitelib-rag-gpt-oss-r1.0
रिलीज़ क्रम
openai/gpt-oss/gpt-oss-120b @ 776a162c0c69e2eae8df64b37ac803df6f2dfe928aad74f49583f0532c30e946
सामान्य प्रश्न
GPT-OSS 120B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम GPT-OSS 120B को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या GPT-OSS 120B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक apache-2.0 शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-09-03