granite-4.2-8b
Oficial · BF16 · safetensors
Entorno de ejecución certificado: SGLang Transformers vLLM
| Precisión / cuantización | Formato | Bits | Confianza del editor | Estado de despliegue |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Oficial | Entorno de ejecución certificado |
IBM Granite · General · Granite 4.2
Granite 4.2 8B: especificaciones, GPU, hosting y despliegue
Granite 4.2 8B es una versión Actual de la línea General de IBM Granite, certificada desde su revisión oficial.
Parámetros totales8,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónActual · Actual
ArquitecturaGraniteForCausalLM
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2026-08-25
Arquitectura, fortalezas y usos
Granite 4.2 8B es una versión oficial autoalojable de IBM en la línea IBM Granite General. Usa GraniteForCausalLM con 8B y un contexto verificado de 131,072 tokens.
Granite 4.2 8B usa GraniteForCausalLM con 8B. El perfil registra 40 capas, ancho oculto 4096 y 32 cabezas de atención cuando se publican.
Arquitectura GraniteForCausalLM verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo
Checkpoints y cuantizaciones certificados
Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.
Hardware recomendado
Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.
Memoria estimada de pesos15.35 GB
KV cache1.25 GB
Sobrecarga del entorno de ejecución7.71 GB
Total con margen de seguridad30.14 GB
Mejor relación calidad-precio
1× NVIDIA A100 SXM 80GB
80 GB VRAM total · nvlink
49.86 GB de margen · Disponible
USD 915 / mesOpción viable de menor coste
2× NVIDIA L4 24GB
48 GB VRAM total · pcie
17.86 GB de margen · Disponible
USD 500 / mesMáximo rendimiento
1× NVIDIA H200 SXM 141GB
141 GB VRAM total · nvswitch
110.86 GB de margen · Capacidad limitada
USD 2.345 / mesLicencia y autoalojamiento
Los 8 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.
Granite 4.2 8B se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.
Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.
Alternativas y variantes hermanas
Granite 4.2 30B, Granite 4.2 3B, Granite 4.1 30B
Cronología de la versión
ibm/granite/granite-4-2-8b
Detalles de la fuente
Revisión de la fuente: cab33b9e1d79489645311c751bc727a0c725f637793648e9c33bcccf04de3b78
Preguntas frecuentes
¿Cuánta VRAM requiere Granite 4.2 8B?
La estimación depende de precisión, contexto y concurrencia y usa datos certificados.
¿Qué entornos de ejecución admiten Granite 4.2 8B?
Hay pruebas oficiales certificadas para transformers, vllm, sglang.
¿Puede usarse Granite 4.2 8B comercialmente?
La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.
Referencias oficiales
Última verificación: 2026-08-26