मुख्य सामग्री पर जाएं

Seed-OSS · सामान्य · Seed-OSS 36B

Seed-OSS 36B Instruct: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

Seed-OSS 36B Instruct, Seed-OSS परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।

Seed-OSS 36B Instruct के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर३६.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा५,२४,२८८ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाSeedOssForCausalLM
मोडैलिटीपाठ
लाइसेंसapache-2.0
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-08-20

आर्किटेक्चर, खूबियाँ और उपयोग

Seed-OSS 36B Instruct, ByteDance Seed का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Seed-OSS सामान्य शाखा में SeedOssForCausalLM, 36B और 524,288 टोकन सत्यापित संदर्भ उपयोग करता है।

Seed-OSS 36B Instruct SeedOssForCausalLM और 36B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 5120 और 80 attention heads दर्ज हैं।

सत्यापित SeedOssForCausalLM आर्किटेक्चर
524,288 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

आधिकारिक · BF16 · safetensors

सत्यापित निष्पादन परिवेश: Transformers vLLM

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
BF16safetensors16आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी69.07 GB
केवी कैश2 GB
रनटाइम ओवरहेड17.89 GB
सुरक्षा मार्जिन सहित कुल110.31 GB

अनुशंसित सर्वोत्तम मूल्य

2× NVIDIA A100 SXM 80GB

160 GB कुल VRAM · nvlink

49.69 GB मार्जिन · उपलब्ध

USD १,८३० / माह

सबसे कम लागत वाला उपयुक्त विकल्प

5× NVIDIA L4 24GB

120 GB कुल VRAM · pcie

9.69 GB मार्जिन · उपलब्ध

USD १,२५० / माह

सर्वोच्च प्रदर्शन

2× NVIDIA A100 SXM 80GB

160 GB कुल VRAM · nvlink

49.69 GB मार्जिन · उपलब्ध

USD १,८३० / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 36 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

Seed-OSS 36B Instruct apache-2.0 के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।

चयनित तुलनाएँ

रिलीज़ क्रम

bytedance-seed/seed-oss/seed-oss-36b-instruct

स्रोत का विवरण

आधिकारिक स्रोत

स्रोत संशोधन: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

सामान्य प्रश्न

Seed-OSS 36B Instruct को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम Seed-OSS 36B Instruct को समर्थन देते हैं?

transformers, vllm के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या Seed-OSS 36B Instruct का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक apache-2.0 शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-09-03