EXAONE / K-EXAONE 2.0 750B-A37B
Cuantización FP8 para K-EXAONE 2.0 750B-A37B
El perfil publicado es orientativo; las mediciones técnicas se realizan para el modelo y el hardware seleccionados.
Antes → Después
Versión basePunto de control verificado
750.000B
750.000B
CuantizaciónFP8
Objetivo de conservación de calidad
Objetivo de conservación de calidad
Artefacto de producciónArtefacto
Informe de trazabilidad y resultados de rendimiento
Informe de trazabilidad y resultados de rendimiento
Selección de GPU
Pesos y cache KVEstimado hasta su medición durante la ingeniería
VRAM estimadaLos resultados medidos y certificados se entregan con el proyecto.
Preparación del entorno de ejecucióntransformers, vllm, sglang