मुख्य सामग्री पर जाएं

ERNIE · दृश्य · ERNIE 4.5 VL

ERNIE 4.5 VL 28B-A3B Thinking: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

ERNIE 4.5 VL 28B-A3B Thinking, ERNIE परिवार की दृश्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।

ERNIE 4.5 VL 28B-A3B Thinking के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर२८.०B
सक्रिय पैरामीटर३.०B
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाErnie4_5_VLMoeForConditionalGeneration
मोडैलिटीबहुमाध्यमी
लाइसेंसapache-2.0
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ परिनियोज्य
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-11-07

आर्किटेक्चर, खूबियाँ और उपयोग

ERNIE 4.5 VL 28B-A3B Thinking, Baidu का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह ERNIE दृश्य शाखा में Ernie4_5_VLMoeForConditionalGeneration, 28B / 3B MoE और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।

ERNIE 4.5 VL 28B-A3B Thinking Ernie4_5_VLMoeForConditionalGeneration और 28B / 3B MoE उपयोग करता है। प्रकाशित होने पर 28 परतें, hidden width 2560 और 20 attention heads दर्ज हैं।

सत्यापित Ernie4_5_VLMoeForConditionalGeneration आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

ERNIE-4.5-VL-28B-A3B-Thinking

baidu/ERNIE-4.5-VL-28B-A3B-Thinking

आधिकारिक · BF16 · safetensors

सत्यापित निष्पादन परिवेश: Transformers vLLM Fastdeploy

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
BF16safetensors16आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी53.72 GB
केवी कैश0.44 GB
रनटाइम ओवरहेड14.47 GB
सुरक्षा मार्जिन सहित कुल85.09 GB

अनुशंसित सर्वोत्तम मूल्य

2× NVIDIA A100 SXM 80GB

160 GB कुल VRAM · nvlink

74.91 GB मार्जिन · उपलब्ध

USD १,८३० / माह

सबसे कम लागत वाला उपयुक्त विकल्प

4× NVIDIA L4 24GB

96 GB कुल VRAM · pcie

10.91 GB मार्जिन · उपलब्ध

USD १,००० / माह

सर्वोच्च प्रदर्शन

2× NVIDIA A100 SXM 80GB

160 GB कुल VRAM · nvlink

74.91 GB मार्जिन · उपलब्ध

USD १,८३० / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 28 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

ERNIE 4.5 VL 28B-A3B Thinking apache-2.0 के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।

विकल्प और समान-पीढ़ी वैरिएंट

ERNIE 4.5 VL 424B-A47B

रिलीज़ क्रम

सामान्य प्रश्न

ERNIE 4.5 VL 28B-A3B Thinking को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम ERNIE 4.5 VL 28B-A3B Thinking को समर्थन देते हैं?

transformers, vllm, fastdeploy के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या ERNIE 4.5 VL 28B-A3B Thinking का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक apache-2.0 शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-09-03