Mistral / Mistral Small 4 119B A6B
Mistral Small 4 119B A6B FP8 quantization
Estimado hasta su medición durante la ingeniería
Antes → Después
Versión basePunto de control verificado
119.000B
119.000B
quantizationFP8
Objetivo de conservación de calidad
Objetivo de conservación de calidad
Artefacto de producciónArtefacto
Informe de linaje y pruebas
Informe de linaje y pruebas
Objetivo GPU
Pesos y cache KVEstimado hasta su medición durante la ingeniería
VRAM estimadaLos resultados medidos y certificados se entregan con el proyecto.
Empaquetado de runtimetransformers, vllm, sglang