Mistral / Ministral 3 3B Instruct 2512

FP8 بۆ Ministral 3 3B Instruct 2512

پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.

پێش → دوای

وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
3.850B

کوانتایزکردنFP8
ئامانجی پاراستنی کوالێتی

ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە

کێشەکان و کاشی KV

خەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت

VRAMی خەمڵێنراو

پێوانەکراو

پاکێجکردنی کاتی کارکردن

transformers, vllm

USD ٥٬٩٠٠