मुख्य सामग्री पर जाएं

Mistral · छोटे आकार का सामान्य-उद्देश्य मॉडल · Mistral Small 4

Mistral Small 4 119B A6B: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन

Mistral Small 4 119B A6B, Mistral परिवार की छोटे आकार का सामान्य-उद्देश्य मॉडल शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।

सुझाव निकालें मॉडल अनुकूलित करें एंटरप्राइज़ मॉडल ट्रांसफॉर्मेशन इस मॉडल की तुलना करें
Mistral Small 4 119B A6B के लिए तकनीकी परिनियोजन चित्र
संदर्भ प्रवाह; सटीक तथ्य अलग सूचीबद्ध हैं।
कुल पैरामीटर११९.०B
सक्रिय पैरामीटर६.०B
संदर्भ सीमा१०,४८,५७६ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाMistral3ForConditionalGeneration
मोडैलिटीपाठ
लाइसेंसApache 2.0 लाइसेंस
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2026-01-23

आर्किटेक्चर, खूबियाँ और उपयोग

Mistral Small 4 119B A6B, Mistral AI का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Mistral छोटे आकार का सामान्य-उद्देश्य मॉडल शाखा में Mistral3ForConditionalGeneration, 119B / 6B MoE और 1,048,576 टोकन सत्यापित संदर्भ उपयोग करता है।

Mistral Small 4 119B A6B Mistral3ForConditionalGeneration और 119B / 6B MoE उपयोग करता है। प्रकाशित होने पर 36 परतें, hidden width 4096 और 32 attention heads दर्ज हैं।

सत्यापित Mistral3ForConditionalGeneration आर्किटेक्चर
1,048,576 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन

प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन

केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।

Mistral-Small-4-119B-2603

mistralai/Mistral-Small-4-119B-2603

आधिकारिक · FP8 · safetensors

सत्यापित निष्पादन परिवेश: Transformers vLLM SGLang

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
FP8safetensors8आधिकारिकसत्यापित निष्पादन परिवेश

Mistral-Small-4-119B-2603-NVFP4

mistralai/Mistral-Small-4-119B-2603-NVFP4

आधिकारिक · NVFP4 · safetensors

सत्यापित निष्पादन परिवेश: Transformers vLLM SGLang

प्रिसीजन / क्वांटाइज़ेशनप्रारूपबिटप्रकाशक भरोसापरिनियोजन स्थिति
NVFP4safetensors4आधिकारिकसत्यापित निष्पादन परिवेश

अनुशंसित हार्डवेयर

सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।

अनुमानित वेट मेमोरी114.15 GB
केवी कैश2.25 GB
रनटाइम ओवरहेड37.8 GB
सुरक्षा मार्जिन सहित कुल191.21 GB

अनुशंसित सर्वोत्तम मूल्य

3× NVIDIA H100 SXM 80GB

240 GB कुल VRAM · nvswitch

48.79 GB मार्जिन · उपलब्ध

USD ५,५८० / माह

सबसे कम लागत वाला उपयुक्त विकल्प

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

90.79 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

सर्वोच्च प्रदर्शन

2× NVIDIA H200 SXM 141GB

282 GB कुल VRAM · nvswitch

90.79 GB मार्जिन · सीमित क्षमता

USD ४,६९० / माह

लाइसेंस और स्व-होस्टिंग विचार

पूरे 119 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।

Mistral Small 4 119B A6B Apache 2.0 लाइसेंस के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।

व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।

रिलीज़ क्रम

सामान्य प्रश्न

Mistral Small 4 119B A6B को कितनी VRAM चाहिए?

अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।

कौन से रनटाइम Mistral Small 4 119B A6B को समर्थन देते हैं?

transformers, vllm, sglang के लिए आधिकारिक प्रमाण सत्यापित हैं।

क्या Mistral Small 4 119B A6B का वाणिज्यिक उपयोग हो सकता है?

संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक Apache 2.0 लाइसेंस शर्तें देखें।

आधिकारिक स्रोत

अंतिम सत्यापन: 2026-08-26