Mistral / Devstral Small 2 24B
Devstral Small 2 24B FP8 quantization
Geschatzt bis zur Messung im Engineering
Before → After
BasisversionVerifizierter Checkpoint
24.000B
24.000B
quantizationFP8
Quality retention target
Quality retention target
ProduktionsartefaktArtefakt
Lineage- und Benchmarkbericht
Lineage- und Benchmarkbericht
GPU-Zielsetzung
Gewichte und KV-CacheGeschatzt bis zur Messung im Engineering
Estimated VRAMMeasured and certified results are delivered with the project.
Runtime-Paketierungtransformers, vllm, sglang