EXAONE / K-EXAONE 2.0 750B-A37B
Quantização FP8 para K-EXAONE 2.0 750B-A37B
O perfil publicado é indicativo; as medições técnicas são realizadas para o modelo e o hardware selecionados.
Antes → Depois
Lançamento baseCheckpoint verificado
750.000B
750.000B
QuantizaçãoFP8
Objetivo de retenção de qualidade
Objetivo de retenção de qualidade
Artefacto de produçãoArtefacto
Relatório de linhagem e resultados dos testes de desempenho
Relatório de linhagem e resultados dos testes de desempenho
Seleção de GPU
Pesos e cache KVEstimado até à medição durante a engenharia
VRAM estimadaOs resultados medidos e certificados são entregues com o projeto.
Preparação do ambiente de execuçãotransformers, vllm, sglang