Mistral / Mistral Small 4 119B A6B
Mistral Small 4 119B A6B FP8 quantization
Estimado até à medição durante a engenharia
Antes → Depois
Lançamento baseCheckpoint verificado
119.000B
119.000B
quantizationFP8
Objetivo de retenção de qualidade
Objetivo de retenção de qualidade
Artefacto de produçãoArtefacto
Relatorio de linhagem e benchmark
Relatorio de linhagem e benchmark
Destino de GPU
Pesos e cache KVEstimado até à medição durante a engenharia
VRAM estimadaOs resultados medidos e certificados são entregues com o projeto.
Empacotamento de runtimetransformers, vllm, sglang