granite-4.2-30b
Oficial · BF16 · safetensors
Entorno de ejecución certificado: SGLang Transformers vLLM
| Precisión / cuantización | Formato | Bits | Confianza del editor | Estado de despliegue |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Oficial | Entorno de ejecución certificado |
IBM Granite · General · Granite 4.2
Granite 4.2 30B: especificaciones, GPU, hosting y despliegue
Granite 4.2 30B es una versión Actual de la línea General de IBM Granite, certificada desde su revisión oficial.
Parámetros totales30,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónActual · Actual
ArquitecturaGraniteForCausalLM
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2026-08-25
Arquitectura, fortalezas y usos
Granite 4.2 30B es una versión oficial autoalojable de IBM en la línea IBM Granite General. Usa GraniteForCausalLM con 30B y un contexto verificado de 131,072 tokens.
Granite 4.2 30B usa GraniteForCausalLM con 30B. El perfil registra 64 capas, ancho oculto 4096 y 32 cabezas de atención cuando se publican.
Arquitectura GraniteForCausalLM verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo
Checkpoints y cuantizaciones certificados
Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.
Hardware recomendado
Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.
Memoria estimada de pesos57.56 GB
KV cache2 GB
Sobrecarga del entorno de ejecución15.44 GB
Total con margen de seguridad92.99 GB
Mejor relación calidad-precio
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
67.01 GB de margen · Disponible
USD 1.830 / mesOpción viable de menor coste
4× NVIDIA L4 24GB
96 GB VRAM total · pcie
3.01 GB de margen · Disponible
USD 1.000 / mesMáximo rendimiento
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
67.01 GB de margen · Disponible
USD 1.830 / mesLicencia y autoalojamiento
Los 30 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.
Granite 4.2 30B se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.
Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.
Alternativas y variantes hermanas
Granite 4.2 8B, Granite 4.2 3B, Granite 4.1 30B
Cronología de la versión
ibm/granite/granite-4-2-30b
Detalles de la fuente
Revisión de la fuente: 37162f41301604396463c91856e5c7bdfaf69aaab7a36920fee97fedd14fa694
Preguntas frecuentes
¿Cuánta VRAM requiere Granite 4.2 30B?
La estimación depende de precisión, contexto y concurrencia y usa datos certificados.
¿Qué entornos de ejecución admiten Granite 4.2 30B?
Hay pruebas oficiales certificadas para transformers, vllm, sglang.
¿Puede usarse Granite 4.2 30B comercialmente?
La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.
Referencias oficiales
Última verificación: 2026-08-26