Mistral / Ministral 3 3B Instruct 2512
Destillation von Ministral 3 3B Instruct 2512
Das veröffentlichte Profil dient zur Orientierung; die technischen Messungen erfolgen mit dem gewählten Modell und der Zielhardware.
Vorher → Nachher
BasisversionVerifizierter Checkpoint
3.850B
3.850B
DestillationLehrer / Schülermodell
Ziel für Qualitätserhalt
Ziel für Qualitätserhalt
ProduktionsartefaktArtefakt
Bericht zur Modellherkunft und Leistungsbewertung
Bericht zur Modellherkunft und Leistungsbewertung
GPU-Auswahl
Gewichte und KV-CacheBis zur technischen Messung geschätzt
Geschätzter VRAMGemessen
Aufbereitung der Laufzeitumgebungtransformers, vllm