FP8

Cuantización FP8

La precisión, la memoria, el contexto y la compatibilidad con el entorno de ejecución se evalúan a partir de los datos de la versión antes de habilitar un pedido.