Before → After
आधार रिलीज़सत्यापित चेकपॉइंट
355.000B
355.000B
quantizationBF16
Quality retention target
Quality retention target
प्रोडक्शन आर्टिफैक्टआर्टिफैक्ट
वंशावली और बेंचमार्क रिपोर्ट
वंशावली और बेंचमार्क रिपोर्ट
GPU लक्ष्यीकरण
वेट और KV कैशइंजीनियरिंग मापन तक अनुमानित
Estimated VRAMMeasured and certified results are delivered with the project.
रनटाइम पैकेजिंगsglang, transformers
पारदर्शी मूल्य
वर्तमान में ऑर्डर योग्य नहीं