इंजीनियरिंग के लिए तैयार
Ministral 3 3B Instruct 2512 के लिए FP8 प्रोडक्शन पैकेज
Mistral / Ministral 3 3B Instruct 2512 · fp8 · इंजीनियरिंग स्थिति: इंजीनियरिंग के लिए तैयार
रूपांतरण वंशावली
आधार रिलीज़Ministral 3 3B Instruct 2512
मॉडल इंजीनियरिंगFP8 क्वांटाइज़ेशन, रनटाइम पैकेजिंग, मूल्यांकन और बेंचमार्किंग
डिलीवरी विकल्पमॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट
पारदर्शी मूल्य
- बेस मॉडल इंजीनियरिंगUSD १२,०००
- FP8 क्वांटाइज़ेशनUSD ५,९००
- रनटाइम पैकेजिंगUSD २,८००
- मूल्यांकन और बेंचमार्किंगUSD ३,६००
- मॉडल पैकेज डाउनलोड करेंUSD १,५००
- प्रबंधित डिप्लॉयमेंट सेटअपUSD ३,२००
- एकमुश्त इंजीनियरिंगUSD २९,०००
मासिक होस्टिंग
- 1 x NVIDIA L4 24GBUSD २५०
- मासिक होस्टिंगUSD २५०
स्रोत रिलीज़
- मॉडल परिवार
- Mistral
- आधार रिलीज़
- Ministral 3 3B Instruct 2512
- पैकेज प्रकार
- क्वांटाइज़्ड
- स्रोत मॉडल की परिशुद्धता
- दर्ज नहीं है
- लक्षित परिशुद्धता
- FP8
- इंजीनियरिंग स्थिति
- इंजीनियरिंग के लिए तैयार
- ऑर्डर स्थिति
- ऑर्डर के लिए उपलब्ध
प्रस्तावित डिलीवरी सामग्री
दर्ज नहीं है
GPU मेमोरी उपयुक्तता
अनुमानित मॉडल वेट: 3.76 GB
अनुमानित KV कैश: 2 GB
अनुमानित आवश्यक VRAM: 11.72 GB
अनुमानित उपलब्ध VRAM: 24 GB
मापन स्थिति
केवल अनुमान
इस पैकेज के लिए कोई मापा हुआ बेंचमार्क परिणाम दर्ज नहीं है।
डिलीवरी सीमाएँ
कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट
डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट
रूपांतरण वंशावली
स्रोत मॉडल की परिशुद्धता: दर्ज नहीं है
लक्षित परिशुद्धता: FP8
ट्रांसफॉर्मेशन ऑपरेशन: FP8 क्वांटाइज़ेशन, रनटाइम पैकेजिंग, मूल्यांकन और बेंचमार्किंग
GPU टोपोलॉजी
चयनित GPU: NVIDIA L4 24GB
GPU संख्या: 1
रनटाइम पैकेजिंग: transformers