InternLM / InternLM3 8B

BF16 بۆ InternLM3 8B

پرۆفایلی بڵاوکراوە ڕێنمایییە؛ پێوانەی ئەندازیاری بۆ مۆدێل و هاردوێری هەڵبژێردراو ئەنجام دەدرێت.

پێش → دوای

وەشانی بنەڕەتخاڵی پشکنینی پشتڕاستکراو
8.000B

کوانتایزکردنBF16
ئامانجی پاراستنی کوالێتی

ئەرتیفاکتی بەرهەمهێنانئەرتیفاکت
ڕاپۆرتی ڕەچەڵەک و پێوانە

کێشەکان و کاشی KV

خەمڵێنراوە تا لە کاتی ئەندازیاری پێوانە بکرێت

VRAMی خەمڵێنراو

پێوانەکراو

پاکێجکردنی کاتی کارکردن

transformers, vllm

لە ئێستادا بۆ داواکردن بەردەست نییە