ERNIE / ERNIE 4.5 300B-A47B
BF16 بۆ ERNIE 4.5 300B-A47B
پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.
پێش → دوای
وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
300.000B
300.000B
کوانتایزکردنBF16
ئامانجی پاراستنی کوالێتی
ئامانجی پاراستنی کوالێتی
ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە
ڕاپۆرتی ڕەچەڵەک و پێوانە
دیاریکردنی GPU
کێشەکان و کاشی KVخەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت
VRAMی خەمڵێنراوپێوانەکراو
پاکێجکردنی کاتی کارکردنfastdeploy
نرخدانی ڕوون
لە ئێستادا بۆ داواکردن بەردەست نییە