IBM Granite / Granite 4.2 8B
Cuantización BF16 para Granite 4.2 8B
El perfil publicado es orientativo; las mediciones técnicas se realizan para el modelo y el hardware seleccionados.
Antes → Después
Versión basePunto de control verificado
8.000B
8.000B
CuantizaciónBF16
Objetivo de conservación de calidad
Objetivo de conservación de calidad
Artefacto de producciónArtefacto
Informe de trazabilidad y resultados de rendimiento
Informe de trazabilidad y resultados de rendimiento
Selección de GPU
Pesos y cache KVEstimado hasta su medición durante la ingeniería
VRAM estimadaMedido
Preparación del entorno de ejecuciónsglang, transformers, vllm
Precios transparentes
No disponible para pedido