Mistral / Mistral Small 4 119B A6B

Mistral Small 4 119B A6B के रूपांतरण विकल्प

रजिस्ट्री साक्ष्य, मूल्य घटकों और रनटाइम संगतता से प्रत्येक रिलीज़ के लिए सत्यापित।

ट्रांसफॉर्मेशन बनाएं

तकनीकी रूपांतरण की स्थिति

परिवर्तन समर्थित

सत्यापित सार्वजनिक खुले वेट वाली रिलीज़, जिसके लिए आधिकारिक चेकपॉइंट प्रमाण उपलब्ध हैं।

आर्किटेक्चर

Mistral3ForConditionalGeneration

पैरामीटर: ११९.००B · संदर्भ विंडो: १०,४८,५७६

समर्थित परिवर्तन

क्वांटाइज़ेशन

प्रत्येक रिलीज़ के लिए सत्यापित

रनटाइम पैकेजिंग

प्रत्येक रिलीज़ के लिए सत्यापित

प्रबंधित होस्टिंग

प्रत्येक रिलीज़ के लिए सत्यापित

डिस्टिलेशन

प्रत्येक रिलीज़ के लिए सत्यापित

GPU चयन

प्रत्येक रिलीज़ के लिए सत्यापित

मूल्यांकन और बेंचमार्किंग

प्रत्येक रिलीज़ के लिए सत्यापित

मॉडल पैकेज डाउनलोड करें

प्रत्येक रिलीज़ के लिए सत्यापित

क्वांटाइज़ेशन

FP8

ऑर्डर उपलब्ध होने से पहले रिलीज़ साक्ष्य से परिशुद्धता, मेमोरी, संदर्भ और रनटाइम अनुकूलता का मूल्यांकन किया जाता है।

NVFP4

डिस्टिलेशन

शिक्षक/छात्र पैकेज केवल तब प्रकाशित होता है जब सटीक रिलीज़ के पास सत्यापित क्षमता प्रमाण हो।

प्रकाशित पैकेज

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - डाउनलोड योग्य प्रोडक्शन बिल्ड

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: डाउनलोड योग्य प्रोडक्शन बिल्ड

ट्रांसफॉर्मेशन ऑपरेशन: FP8 क्वांटाइज़ेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

fp8transformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७०,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

ट्रांसफॉर्मेशन ऑपरेशन: FP8 क्वांटाइज़ेशन, रनटाइम पैकेजिंग, मूल्यांकन और बेंचमार्किंग

चयनित GPU: NVIDIA H200 SXM 141GB

GPU संख्या: 2

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन2 × NVIDIA H200 SXM 141GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

चयनित GPU: NVIDIA H100 SXM 80GB

GPU संख्या: 2

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन2 × NVIDIA H100 SXM 80GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

चयनित GPU: NVIDIA H100 PCIe 80GB

GPU संख्या: 2

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन2 × NVIDIA H100 PCIe 80GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

चयनित GPU: NVIDIA A100 SXM 80GB

GPU संख्या: 2

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन2 × NVIDIA A100 SXM 80GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

चयनित GPU: NVIDIA L40S 48GB

GPU संख्या: 4

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन4 × NVIDIA L40S 48GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

Mistral Small 4 119B A6B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

चयनित GPU: NVIDIA L4 24GB

GPU संख्या: 7

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन7 × NVIDIA L4 24GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD ७६,१६०
एकमुश्त इंजीनियरिंग

डिज़ाइन सत्यापित

Mistral Small 4 119B A6B के लिए डिस्टिलेशन पैकेज - गुणवत्ता-संरक्षण डिस्टिलेशन

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: गुणवत्ता-संरक्षण डिस्टिलेशन

ट्रांसफॉर्मेशन ऑपरेशन: डिस्टिलेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिस्टिलेशनगुणवत्ता संरक्षणtransformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD १,५०,५३५
एकमुश्त इंजीनियरिंग

डिज़ाइन सत्यापित

Mistral Small 4 119B A6B के लिए डिस्टिलेशन पैकेज - थ्रूपुट-अनुकूलित डिस्टिलेशन

Mistral · Mistral Small 4 119B A6B

पैकेज प्रोफ़ाइल: थ्रूपुट-अनुकूलित डिस्टिलेशन

ट्रांसफॉर्मेशन ऑपरेशन: डिस्टिलेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिस्टिलेशनथ्रूपुट अनुकूलितtransformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD १,५०,५३५
एकमुश्त इंजीनियरिंग