Mistral / Mistral Small 4 119B A6B
Mistral Small 4 119B A6B FP8 quantization
Estimation jusqu’aux mesures d’ingénierie
Avant → Après
Version de basePoint de contrôle vérifié
119.000B
119.000B
quantizationFP8
Objectif de préservation de la qualité
Objectif de préservation de la qualité
Artefact de productionArtefact
Rapport de lignage et d’analyse comparative
Rapport de lignage et d’analyse comparative
Ciblage GPU
Poids et cache KVEstimation jusqu’aux mesures d’ingénierie
VRAM estiméeLes résultats mesurés et certifiés sont livrés avec le projet.
Packaging runtimetransformers, vllm, sglang