Yi-1.5-34B-Chat
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Yi · सामान्य · Yi 1.5
Yi 1.5 34B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Yi 1.5 34B, Yi परिवार की सामान्य शाखा में पुराना संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३४.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिपुराना · पुराना
वास्तुकलाDense Transformer
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ परिनियोज्य
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2024-05-10
आर्किटेक्चर, खूबियाँ और उपयोग
Yi 1.5 34B, 01.AI का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Yi सामान्य शाखा में Dense Transformer, 34B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Yi 1.5 34B Dense Transformer और 34B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 8192 और 64 attention heads दर्ज हैं।
सत्यापित Dense Transformer आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी65.23 GB
केवी कैश2 GB
रनटाइम ओवरहेड16.92 GB
सुरक्षा मार्जिन सहित कुल104.34 GB
अनुशंसित सर्वोत्तम मूल्य
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
55.66 GB मार्जिन · उपलब्ध
$१,८३०.०० / माहसबसे कम लागत वाला उपयुक्त विकल्प
5× NVIDIA L4 24GB
120 GB कुल VRAM · pcie
15.66 GB मार्जिन · उपलब्ध
$१,२५०.०० / माहसर्वोच्च प्रदर्शन
2× NVIDIA A100 SXM 80GB
160 GB कुल VRAM · nvlink
55.66 GB मार्जिन · उपलब्ध
$१,८३०.०० / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 34 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Yi 1.5 34B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
रिलीज़ क्रम
01-ai/yi/yi-1-5-34b @ df4f4134237446ef11fb6dfc47b88c245cb9defef8dc1617249150af93f0b863
सामान्य प्रश्न
Yi 1.5 34B को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Yi 1.5 34B को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Yi 1.5 34B का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-08-26