मुख्य सामग्री पर जाएं

Mistral · मध्यम आकार का सामान्य-उद्देश्य मॉडल · Mistral Medium 3.5

Mistral Medium 3.5 128B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

Mistral Medium 3.5 128B, Mistral परिवार की मध्यम आकार का सामान्य-उद्देश्य मॉडल शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।

सुझाव निकालें मॉडल अनुकूलित करें इस मॉडल की तुलना करें
Mistral Medium 3.5 128B के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर१२८.०B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा२,६२,१४४ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाMistral3ForConditionalGeneration
मोडैलिटीपाठ
लाइसेंससंशोधित MIT लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिशर्तों के साथ व्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-03-31

आर्किटेक्चर, खूबियाँ और उपयोग

Mistral Medium 3.5 128B, Mistral AI का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Mistral मध्यम आकार का सामान्य-उद्देश्य मॉडल शाखा में Mistral3ForConditionalGeneration, 128B और 262,144 टोकन सत्यापित संदर्भ उपयोग करता है।

Mistral Medium 3.5 128B Mistral3ForConditionalGeneration और 128B उपयोग करता है। प्रकाशित होने पर 88 परतें, hidden width 12288 और 96 attention heads दर्ज हैं।

सत्यापित Mistral3ForConditionalGeneration आर्किटेक्चर
262,144 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

Mistral-Medium-3.5-128B

mistralai/Mistral-Medium-3.5-128B

आधिकारिक · FP8 · safetensors

सत्यापित निष्पादन परिवेश: Transformers vLLM SGLang

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
FP8safetensors8आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी122.79 GB
केवी कैश1.38 GB
रनटाइम ओवरहेड40.47 GB
सुरक्षा मार्जिन सहित कुल204.15 GB

अनुशंसित सर्वोत्तम मूल्य

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

77.85 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

सबसे कम लागत वाला उपयुक्त विकल्प

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

77.85 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

सर्वोच्च प्रदर्शन

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

77.85 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 128 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

Mistral Medium 3.5 128B संशोधित MIT लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

शर्तों के साथ व्यावसायिक उपयोग अनुमत. व्यावसायिक उपयोग शर्तों के अधीन है। परिनियोजन से पहले लिंक की गई आधिकारिक शर्तें देखें।

विकल्प और समान-पीढ़ी वैरिएंट

Mistral-Medium-3.5-128B, Mistral-Medium-3.5-128B-NVFP4, Mistral-Medium-3.5-128B-EAGLE

रिलीज़ क्रम

सामान्य प्रश्न

Mistral Medium 3.5 128B को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम Mistral Medium 3.5 128B को समर्थन देते हैं?

transformers, vllm, sglang के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या Mistral Medium 3.5 128B का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण शर्तों के साथ व्यावसायिक उपयोग अनुमत है। आधिकारिक संशोधित MIT लाइसेंस शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-08-26