Mistral / Devstral Small 2 24B
FP8 بۆ Devstral Small 2 24B
پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.
پێش → دوای
وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
24.000B
24.000B
کوانتایزکردنFP8
ئامانجی پاراستنی کوالێتی
ئامانجی پاراستنی کوالێتی
ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە
ڕاپۆرتی ڕەچەڵەک و پێوانە
دیاریکردنی GPU
کێشەکان و کاشی KVخەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت
VRAMی خەمڵێنراوپێوانەکراو
پاکێجکردنی کاتی کارکردنtransformers, vllm, sglang