BGE / BGE-M3

Destillation von BGE-M3

Das veröffentlichte Profil dient zur Orientierung; die technischen Messungen erfolgen mit dem gewählten Modell und der Zielhardware.

Vorher → Nachher

BasisversionVerifizierter Checkpoint
0.568B

DestillationLehrer / Schülermodell
Ziel für Qualitätserhalt

ProduktionsartefaktArtefakt
Bericht zur Modellherkunft und Leistungsbewertung

Gewichte und KV-Cache

Bis zur technischen Messung geschätzt

Geschätzter VRAM

Gemessen

Aufbereitung der Laufzeitumgebung

sentence-transformers, transformers

USD 17.500