IBM Granite / Granite 3.3 8B
Quantização BF16 para Granite 3.3 8B
O perfil publicado é indicativo; as medições técnicas são realizadas para o modelo e o hardware selecionados.
Antes → Depois
Lançamento baseCheckpoint verificado
8.000B
8.000B
QuantizaçãoBF16
Objetivo de retenção de qualidade
Objetivo de retenção de qualidade
Artefacto de produçãoArtefacto
Relatório de linhagem e resultados dos testes de desempenho
Relatório de linhagem e resultados dos testes de desempenho
Seleção de GPU
Pesos e cache KVEstimado até à medição durante a engenharia
VRAM estimadaMedido
Preparação do ambiente de execuçãotransformers
Preço transparente
Não disponível para encomenda