GLM / GLM-4.6V
FP8 بۆ GLM-4.6V
پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.
پێش → دوای
وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
107.710B
107.710B
کوانتایزکردنFP8
ئامانجی پاراستنی کوالێتی
ئامانجی پاراستنی کوالێتی
ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە
ڕاپۆرتی ڕەچەڵەک و پێوانە
دیاریکردنی GPU
کێشەکان و کاشی KVخەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت
VRAMی خەمڵێنراوپێوانەکراو
پاکێجکردنی کاتی کارکردنtransformers, vllm, sglang