Mistral / Mistral Small 4 119B A6B
NVFP4 بۆ Mistral Small 4 119B A6B
پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.
پێش → دوای
وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
119.000B
119.000B
کوانتایزکردنNVFP4
ئامانجی پاراستنی کوالێتی
ئامانجی پاراستنی کوالێتی
ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە
ڕاپۆرتی ڕەچەڵەک و پێوانە
دیاریکردنی GPU
کێشەکان و کاشی KVخەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت
VRAMی خەمڵێنراوپێوانەکراو
پاکێجکردنی کاتی کارکردنtransformers, vllm, sglang
نرخدانی ڕوون
لە ئێستادا بۆ داواکردن بەردەست نییە