Saltar para o conteúdo principal

IBM Granite · Geral · Granite 3.3

Granite 3.3 8B: especificações, requisitos GPU, alojamento e implementação

Granite 3.3 8B é uma versão Anterior da linha Geral de IBM Granite, certificada pela revisão oficial.

Ilustração técnica de implementação para Granite 3.3 8B
Fluxo de referência; os dados exatos são apresentados separadamente.
Parâmetros totais8,0B
Parâmetros ativosModelo denso
Janela de contexto131 072 tokens
Estado da versãoAnterior · Anterior
ArquiteturaDense Transformer
ModalidadesTexto
LicençaLicença Apache 2.0
Estado de implementaçãoImplementável com configuração certificada
Estado comercialUso comercial permitido
Data de lançamento2025-04-09

Arquitetura, vantagens e usos

Granite 3.3 8B é uma versão oficial autoalojável da IBM na linha IBM Granite Geral. Usa Dense Transformer com 8B e contexto verificado de 131,072 tokens.

Granite 3.3 8B usa Dense Transformer com 8B. O perfil regista 64 camadas, largura 8192 e 64 cabeças de atenção quando publicados.

Arquitetura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniência oficial do checkpoint
Inferência LLM privada
Fluxos de agentes
Documentos de contexto longo

Checkpoints e quantizações certificados

São mostradas apenas variantes exatas desta versão, certificadas pela fonte.

granite-3.3-8b-instruct

ibm-granite/granite-3.3-8b-instruct

Oficial · BF16 · safetensors

Ambiente de execução certificado: Transformers

Precisão / quantizaçãoFormatoBitsConfiança no editorEstado de implementação
BF16safetensors16OficialAmbiente de execução certificado

Hardware recomendado

Use apenas configurações de ambiente de execução certificadas com a precisão exata. A classificação verifica pesos, cache KV, sobrecarga, arquitetura GPU e topologia.

Memória estimada dos pesos15.35 GB
KV cache2 GB
Sobrecarga do ambiente de execução7.84 GB
Total com margem de segurança31.24 GB

Melhor valor recomendado

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margem · Capacidade limitada

$2 345,00 / mês

Opção viável de menor custo

2× NVIDIA L4 24GB

48 GB VRAM total · pcie

16.76 GB de margem · Disponível

$500,00 / mês

Maior desempenho

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margem · Capacidade limitada

$2 345,00 / mês

Licença e alojamento próprio

Os 8 B de pesos residentes têm de caber nas GPUs. Contexto e concorrência adicionam cache KV.

Granite 3.3 8B é publicado sob Licença Apache 2.0. O URL oficial e a data de verificação são guardados.

Uso comercial permitido. A licença oficial permite o uso comercial; todas as suas obrigações continuam aplicáveis.

Alternativas e variantes irmãs

Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

Cronologia da versão

ibm/granite/granite-3-3-8b @ 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468

Fonte oficial

Perguntas frequentes

Quanta VRAM requer Granite 3.3 8B?

A estimativa depende da precisão, contexto e concorrência e usa dados certificados.

Que ambientes de execução suportam Granite 3.3 8B?

Existem provas oficiais certificadas para transformers.

Granite 3.3 8B pode ser usado comercialmente?

A classificação guardada é Uso comercial permitido. Consulte os termos oficiais de Licença Apache 2.0.

Referências oficiais

Última verificação: 2026-08-26