Qwen3-8B
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Qwen · सामान्य · Qwen3
Qwen3 8B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Qwen3 8B, Qwen परिवार की सामान्य शाखा में हाल का संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर८.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा४०,९६० tokens
संस्करण स्थितिहाल का · हाल का
वास्तुकलाQwen3ForCausalLM
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-04-27
आर्किटेक्चर, खूबियाँ और उपयोग
Qwen3 8B, Qwen का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Qwen सामान्य शाखा में Qwen3ForCausalLM, 8B और 40,960 टोकन सत्यापित संदर्भ उपयोग करता है।
Qwen3 8B Qwen3ForCausalLM और 8B उपयोग करता है। प्रकाशित होने पर 36 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।
सत्यापित Qwen3ForCausalLM आर्किटेक्चर
40,960 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी15.35 GB
केवी कैश1.13 GB
रनटाइम ओवरहेड7.69 GB
सुरक्षा मार्जिन सहित कुल29.96 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA A100 SXM 80GB
80 GB कुल VRAM · nvlink
50.04 GB मार्जिन · उपलब्ध
USD ९१५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
2× NVIDIA L4 24GB
48 GB कुल VRAM · pcie
18.04 GB मार्जिन · उपलब्ध
USD ५०० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
111.04 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 8 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Qwen3 8B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
विकल्प और समान-पीढ़ी वैरिएंट
Qwen3 30B-A3B Instruct 2507, Qwen3 235B-A22B, Qwen3.8 2.4T-A95B, Qwen3.8 27B
रिलीज़ क्रम
qwen/qwen/qwen3-8b
स्रोत का विवरण
स्रोत संशोधन: 872a82fc823d6d3fc1ec27684ffa4391e0c2b8b6662cae48c7d453b573800113
सामान्य प्रश्न
Qwen3 8B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Qwen3 8B को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Qwen3 8B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26