Before → After
आधार रिलीज़सत्यापित चेकपॉइंट
320.000B
320.000B
quantizationFP8
Quality retention target
Quality retention target
प्रोडक्शन आर्टिफैक्टआर्टिफैक्ट
वंशावली और बेंचमार्क रिपोर्ट
वंशावली और बेंचमार्क रिपोर्ट
GPU लक्ष्यीकरण
वेट और KV कैशइंजीनियरिंग मापन तक अनुमानित
Estimated VRAMMeasured and certified results are delivered with the project.
रनटाइम पैकेजिंगtransformers, vllm, sglang, tokenspeed, ktransformers