K-EXAONE 2.0 750B-A37B के रूपांतरण विकल्प

तकनीकी रूपांतरण की स्थिति

परिवर्तन समर्थित

सत्यापित सार्वजनिक खुले वेट वाली रिलीज़, जिसके लिए आधिकारिक चेकपॉइंट प्रमाण उपलब्ध हैं।

आर्किटेक्चर

ExaoneMoeForCausalLM

पैरामीटर: ७५०.००B · संदर्भ विंडो: २,६२,१४४

समर्थित परिवर्तन

क्वांटाइज़ेशन

प्रत्येक रिलीज़ के लिए सत्यापित

रनटाइम पैकेजिंग

प्रत्येक रिलीज़ के लिए सत्यापित

प्रबंधित होस्टिंग

प्रत्येक रिलीज़ के लिए सत्यापित

डिस्टिलेशन

प्रत्येक रिलीज़ के लिए सत्यापित

GPU चयन

प्रत्येक रिलीज़ के लिए सत्यापित

मूल्यांकन और बेंचमार्किंग

प्रत्येक रिलीज़ के लिए सत्यापित

मॉडल पैकेज डाउनलोड करें

प्रत्येक रिलीज़ के लिए सत्यापित

क्वांटाइज़ेशन

BF16

ऑर्डर उपलब्ध होने से पहले रिलीज़ साक्ष्य से परिशुद्धता, मेमोरी, संदर्भ और रनटाइम अनुकूलता का मूल्यांकन किया जाता है।

FP8

ऑर्डर उपलब्ध होने से पहले रिलीज़ साक्ष्य से परिशुद्धता, मेमोरी, संदर्भ और रनटाइम अनुकूलता का मूल्यांकन किया जाता है।

डिस्टिलेशन

शिक्षक/छात्र पैकेज केवल तब प्रकाशित होता है जब सटीक रिलीज़ के पास सत्यापित क्षमता प्रमाण हो।

प्रकाशित पैकेज

इंजीनियरिंग के लिए तैयार

K-EXAONE 2.0 750B-A37B के लिए FP8 प्रोडक्शन पैकेज - डाउनलोड योग्य प्रोडक्शन बिल्ड

EXAONE · K-EXAONE 2.0 750B-A37B

पैकेज प्रोफ़ाइल: डाउनलोड योग्य प्रोडक्शन बिल्ड

ट्रांसफॉर्मेशन ऑपरेशन: FP8 क्वांटाइज़ेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

fp8transformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD १,०६,७००
एकमुश्त इंजीनियरिंग

इंजीनियरिंग के लिए तैयार

K-EXAONE 2.0 750B-A37B के लिए FP8 प्रोडक्शन पैकेज - चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

EXAONE · K-EXAONE 2.0 750B-A37B

पैकेज प्रोफ़ाइल: चयनित GPU पर होस्ट की गई प्रोडक्शन सेवा

ट्रांसफॉर्मेशन ऑपरेशन: FP8 क्वांटाइज़ेशन, रनटाइम पैकेजिंग, मूल्यांकन और बेंचमार्किंग

चयनित GPU: NVIDIA H200 SXM 141GB

GPU संख्या: 7

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: डाउनलोड + होस्ट

डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

fp8GPU कॉन्फ़िगरेशन7 × NVIDIA H200 SXM 141GBtransformersरनटाइम अनुकूलित मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD १,१२,७००
एकमुश्त इंजीनियरिंग

डिज़ाइन सत्यापित

K-EXAONE 2.0 750B-A37B के लिए डिस्टिलेशन पैकेज - गुणवत्ता-संरक्षण डिस्टिलेशन

EXAONE · K-EXAONE 2.0 750B-A37B

पैकेज प्रोफ़ाइल: गुणवत्ता-संरक्षण डिस्टिलेशन

ट्रांसफॉर्मेशन ऑपरेशन: डिस्टिलेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

डिस्टिलेशनगुणवत्ता संरक्षणtransformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD २,४०,३६३
एकमुश्त इंजीनियरिंग

डिज़ाइन सत्यापित

K-EXAONE 2.0 750B-A37B के लिए डिस्टिलेशन पैकेज - थ्रूपुट-अनुकूलित डिस्टिलेशन

EXAONE · K-EXAONE 2.0 750B-A37B

पैकेज प्रोफ़ाइल: थ्रूपुट-अनुकूलित डिस्टिलेशन

ट्रांसफॉर्मेशन ऑपरेशन: डिस्टिलेशन, मूल्यांकन और बेंचमार्किंग

चयनित GPU: हार्डवेयर बिल्डर में चुना जाता है

रनटाइम पैकेजिंग: transformers

कॉन्फ़िगर की गई डिलीवरी: मॉडल पैकेज डाउनलोड करें

डिलीवरी विकल्प: मॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

डिस्टिलेशनथ्रूपुट अनुकूलितtransformers मॉडल पैकेज डाउनलोड करेंFusionPointAI के साथ होस्ट करेंडाउनलोड + होस्ट

USD २,४०,३६३
एकमुश्त इंजीनियरिंग