ERNIE / ERNIE 4.5 21B-A3B
BF16 بۆ ERNIE 4.5 21B-A3B
پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.
پێش → دوای
وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
21.000B
21.000B
کوانتایزکردنBF16
ئامانجی پاراستنی کوالێتی
ئامانجی پاراستنی کوالێتی
ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە
ڕاپۆرتی ڕەچەڵەک و پێوانە
دیاریکردنی GPU
کێشەکان و کاشی KVخەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت
VRAMی خەمڵێنراوپێوانەکراو
پاکێجکردنی کاتی کارکردنfastdeploy
نرخدانی ڕوون
لە ئێستادا بۆ داواکردن بەردەست نییە