GPTQ

GPTQ 量化

在可下单之前，将根据版本证据评估精度、内存、上下文和运行时适配性。