ERNIE · तर्क · ERNIE 4.5 Thinking
ERNIE 4.5 21B-A3B Thinking, ERNIE परिवार की तर्क शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
ERNIE 4.5 21B-A3B Thinking, Baidu का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह ERNIE तर्क शाखा में Ernie4_5_MoeForCausalLM, 21B / 3B MoE और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
ERNIE 4.5 21B-A3B Thinking Ernie4_5_MoeForCausalLM और 21B / 3B MoE उपयोग करता है। प्रकाशित होने पर 28 परतें, hidden width 2560 और 20 attention heads दर्ज हैं।
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
baidu/ERNIE-4.5-21B-A3B-Thinking
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Fastdeploy vLLM Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुशंसित सर्वोत्तम मूल्य
141 GB कुल VRAM · nvswitch
75.56 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
72 GB कुल VRAM · pcie
6.56 GB मार्जिन · उपलब्ध
USD ७५० / माहसर्वोच्च प्रदर्शन
141 GB कुल VRAM · nvswitch
75.56 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहपूरे 21 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
ERNIE 4.5 21B-A3B Thinking apache-2.0 के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
स्रोत संशोधन: aa54548a750802c4c7471b17b3a3b850f3f4b0465a2cf4c43f0d1dd9c9dc5297
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
fastdeploy, vllm, transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक apache-2.0 शर्तें देखें।
अंतिम सत्यापन: 2026-09-03
