GPT-OSS / GPT-OSS 20B

Quantisierung mit MXFP4 für GPT-OSS 20B

Das veröffentlichte Profil dient zur Orientierung; die technischen Messungen erfolgen mit dem gewählten Modell und der Zielhardware.

Vorher → Nachher

BasisversionVerifizierter Checkpoint
21.000B

QuantisierungMXFP4
Ziel für Qualitätserhalt

ProduktionsartefaktArtefakt
Bericht zur Modellherkunft und Leistungsbewertung

Gewichte und KV-Cache

Bis zur technischen Messung geschätzt

Geschätzter VRAM

Gemessene und zertifizierte Ergebnisse werden mit dem Projekt geliefert.

Aufbereitung der Laufzeitumgebung

transformers

Derzeit nicht bestellbar