Mistral / Mistral Small 4 119B A6B
د Mistral Small 4 119B A6B لپاره NVFP4
خپرې شوې پېژندڅېره اټکلي ده؛ د ټاکل شوي ماډل او هارډوېیر انجنیري اندازهګیري بشپړېږي.
مخکې → وروسته
بنسټیزه نسخهتایید شوی checkpoint
119.000B
119.000B
QuantizationNVFP4
د کیفیت ساتنې هدف
د کیفیت ساتنې هدف
د تولید محصولمحصول
د نسب او معیار راپور
د نسب او معیار راپور
د GPU ټاکنه
وزنونه او KV cacheتر انجنیري اندازهګیرۍ پورې اټکلي
اټکلي VRAMاندازه شوی
د اجرا چاپېریال بستهبنديtransformers, vllm, sglang
روڼې بیې
دا مهال د فرمایش وړ نه دی