Mistral / Devstral Small 2 24B
Devstral Small 2 24B FP8 quantization
इंजीनियरिंग मापन तक अनुमानित
Before → After
आधार रिलीज़सत्यापित चेकपॉइंट
24.000B
24.000B
quantizationFP8
Quality retention target
Quality retention target
प्रोडक्शन आर्टिफैक्टआर्टिफैक्ट
वंशावली और बेंचमार्क रिपोर्ट
वंशावली और बेंचमार्क रिपोर्ट
GPU लक्ष्यीकरण
वेट और KV कैशइंजीनियरिंग मापन तक अनुमानित
Estimated VRAMMeasured and certified results are delivered with the project.
रनटाइम पैकेजिंगtransformers, vllm, sglang