इंजीनियरिंग के लिए तैयार

GLM-5.3-Flash के लिए FP8 प्रोडक्शन पैकेज

GLM / GLM-5.3-Flash · fp8 · इंजीनियरिंग स्थिति: इंजीनियरिंग के लिए तैयार

विवरण

रूपांतरण वंशावली

आधार रिलीज़GLM-5.3-Flash

मॉडल इंजीनियरिंगFP8 क्वांटाइज़ेशन, रनटाइम पैकेजिंग, मूल्यांकन और बेंचमार्किंग

डिलीवरी विकल्पमॉडल पैकेज डाउनलोड करें / FusionPointAI के साथ होस्ट करें / डाउनलोड + होस्ट

पारदर्शी मूल्य

कीमतें आपकी चुनी हुई प्रदर्शन मुद्रा में दिखाई जाती हैं। इस कॉन्फ़िगरेशन का कोटेशन USD में जारी होता है; स्वीकृत कोटेशन की मुद्रा, कीमतें और शर्तें अपरिवर्तित रहती हैं।

बेस मॉडल इंजीनियरिंगUSD ९५,७००
FP8 क्वांटाइज़ेशनUSD ५,९००
रनटाइम पैकेजिंगUSD २,८००
मूल्यांकन और बेंचमार्किंगUSD ३,६००
मॉडल पैकेज डाउनलोड करेंUSD १,५००
प्रबंधित डिप्लॉयमेंट सेटअपUSD ३,२००
एकमुश्त इंजीनियरिंगUSD १,१२,७००

मासिक होस्टिंग

6 x NVIDIA H100 PCIe 80GBUSD ९,४७४
मासिक होस्टिंगUSD ९,४७४

इंजीनियरिंग का दायरा और साक्ष्य

निर्धारित दायरे के इंजीनियरिंग कार्य के रूप में ऑर्डर किया जा सकता है

आप इस इंजीनियरिंग कार्य को कॉन्फ़िगर करके अनुरोध कर सकते हैं। कार्यान्वयन से पहले मौजूदा स्कोप-समीक्षा प्रक्रिया में सोर्स सत्यापन, अंतिम तैनाती उपयुक्तता और स्वीकृति मानदंडों की पुष्टि की जाती है।

स्रोत रिलीज़

मॉडल परिवार: GLM
आधार रिलीज़: GLM-5.3-Flash
पैकेज प्रकार: क्वांटाइज़्ड

सोर्स चेकपॉइंट की प्रिसिजन

कैटलॉग में दर्ज

रजिस्टर्ड सोर्स चेकपॉइंट में FP8 दर्ज है। उसका स्रोत, रिविज़न और सत्यापन की तारीख नीचे दी गई है; इन्हें टार्गेट फ़ॉर्मैट से अनुमानित नहीं किया गया है।

टार्गेट प्रिसिजन

कैटलॉग में दर्ज

पैकेज विनिर्देश FP8 को टार्गेट फ़ॉर्मैट के रूप में तय करता है। यह इंजीनियरिंग विनिर्देश है, तैयार आर्टिफ़ैक्ट या मापी गई गुणवत्ता का साक्ष्य नहीं।

डिलीवर किए जाने वाले काम का दायरा

सहमत इंजीनियरिंग कार्य के दौरान तय होगा

यह खरीद सटीक रिलीज़ के लिए सूचीबद्ध इंजीनियरिंग और मूल्यांकन कार्य का अनुरोध है। चुना गया डिलीवरी तरीका और स्वीकार किया गया कोटेशन तय करते हैं कि क्या सौंपा जाएगा; इसका अर्थ पहले से तैयार आर्टिफ़ैक्ट का तुरंत डाउनलोड नहीं है।

सत्यापित रूपांतरित मॉडल आर्टिफैक्ट
टोकनाइज़र और मॉडल कॉन्फ़िगरेशन
चयनित डिलीवरी मोड के लिए रनटाइम कॉन्फ़िगरेशन
चेकसम और वर्ज़न मैनिफेस्ट
बेंचमार्क रिपोर्ट

डाउनलोड: इंजीनियरिंग और सत्यापन के बाद सहमत मॉडल आर्टिफ़ैक्ट, टोकनाइज़र/कॉन्फ़िगरेशन, वर्शन मैनिफ़ेस्ट और चेकसम की डिलीवरी, सोर्स लाइसेंस के अधीन।

होस्ट: चुने गए होस्टिंग कॉन्फ़िगरेशन पर सहमत परिणाम की तैनाती। GPU आवंटन और आवर्ती शुल्क एकमुश्त इंजीनियरिंग शुल्क से अलग कोट किए जाते हैं।

डाउनलोड + होस्ट: सहमत आर्टिफ़ैक्ट की डिलीवरी और होस्टेड तैनाती, दोनों पर लागू लाइसेंस और होस्टिंग आवश्यकताओं के साथ।

मूल्यांकन: कॉन्फ़िगर किया गया मूल्यांकन कार्य और उससे बनी रिपोर्ट। मापन से पहले प्रदर्शन परिणाम या गुणवत्ता बनाए रखने का कोई आँकड़ा सुनिश्चित नहीं किया जाता।

टार्गेट GPU

कैटलॉग में दर्ज

कॉन्फ़िगरेशन का लक्ष्य 6 × NVIDIA H100 PCIe 80GB है। संदर्भ विनिर्देश या अनुमानित उपयुक्तता किराये के स्टॉक को आरक्षित नहीं करती; आवंटन से पहले उपलब्धता और तैनाती की उपयुक्तता जाँची जाती है।

मेमोरी की उपयुक्तता

सहमत इंजीनियरिंग कार्य के दौरान तय होगा

ये चुनी गई GPU संख्या, कॉन्टेक्स्ट और वर्कलोड के लिए दर्ज साइज़िंग अनुमान हैं, मापे गए तैनाती परिणाम नहीं। रनटाइम ओवरहेड और वास्तविक वर्कलोड व्यवहार का सत्यापन आवश्यक है।

अनुमानित मॉडल वेट: 312.92 GB

अनुमानित KV कैश: 4.57 GB

अनुमानित आवश्यक VRAM: 418.55 GB

अनुमानित उपलब्ध VRAM: 480 GB

बेंचमार्क साक्ष्य

सहमत इंजीनियरिंग कार्य के दौरान तय होगा

इस पैकेज के लिए कोई पूर्ण मापा गया बेंचमार्क दर्ज नहीं है। सहमत मूल्यांकन के दौरान सटीक परिणाम, हार्डवेयर, रनटाइम और सेटिंग्स के साथ मापन किया जाएगा। अनुमान मापे गए परिणाम नहीं हैं।

डिलीवरी का तरीका

कैटलॉग में दर्ज

डाउनलोड + होस्ट

इंजीनियरिंग स्थिति का अर्थ

इंजीनियरिंग के लिए तैयार: कॉन्फ़िगर किए गए इंजीनियरिंग वर्कफ़्लो और व्यावसायिक घटकों का स्कोप तय किया जा सकता है। इसका अर्थ यह नहीं कि परिणामस्वरूप आर्टिफ़ैक्ट पहले ही बनाया या बेंचमार्क किया जा चुका है।