GLM / GLM-4.6V
GLM-4.6V FP8 quantization
Geschatzt bis zur Messung im Engineering
Before → After
BasisversionVerifizierter Checkpoint
107.710B
107.710B
quantizationFP8
Quality retention target
Quality retention target
ProduktionsartefaktArtefakt
Lineage- und Benchmarkbericht
Lineage- und Benchmarkbericht
GPU-Zielsetzung
Gewichte und KV-CacheGeschatzt bis zur Messung im Engineering
Estimated VRAMMeasured and certified results are delivered with the project.
Runtime-Paketierungtransformers, vllm, sglang