Saltar al contenido principal

IBM Granite · General · Granite 3.3

Granite 3.3 8B: especificaciones, GPU, hosting y despliegue

Granite 3.3 8B es una versión Anterior de la línea General de IBM Granite, certificada desde su revisión oficial.

Ilustración técnica de despliegue para Granite 3.3 8B
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales8,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónAnterior · Anterior
ArquitecturaDense Transformer
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de despliegueDesplegable con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-04-09

Arquitectura, fortalezas y usos

Granite 3.3 8B es una versión oficial autoalojable de IBM en la línea IBM Granite General. Usa Dense Transformer con 8B y un contexto verificado de 131,072 tokens.

Granite 3.3 8B usa Dense Transformer con 8B. El perfil registra 64 capas, ancho oculto 8192 y 64 cabezas de atención cuando se publican.

Arquitectura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

granite-3.3-8b-instruct

ibm-granite/granite-3.3-8b-instruct

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Transformers

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos15.35 GB
KV cache2 GB
Sobrecarga del entorno de ejecución7.84 GB
Total con margen de seguridad31.24 GB

Mejor relación calidad-precio

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margen · Capacidad limitada

$2.345,00 / mes

Opción viable de menor coste

2× NVIDIA L4 24GB

48 GB VRAM total · pcie

16.76 GB de margen · Disponible

$500,00 / mes

Máximo rendimiento

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margen · Capacidad limitada

$2.345,00 / mes

Licencia y autoalojamiento

Los 8 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

Granite 3.3 8B se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Alternativas y variantes hermanas

Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

Cronología de la versión

ibm/granite/granite-3-3-8b @ 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468

Fuente oficial

Preguntas frecuentes

¿Cuánta VRAM requiere Granite 3.3 8B?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten Granite 3.3 8B?

Hay pruebas oficiales certificadas para transformers.

¿Puede usarse Granite 3.3 8B comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.

Referencias oficiales

Última verificación: 2026-08-26