Falcon-H1-34B-Instruct
Oficial · BF16 · safetensors
Ambiente de execução certificado: Transformers
| Precisão / quantização | Formato | Bits | Confiança no editor | Estado de implementação |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Oficial | Ambiente de execução certificado |
Falcon · Geral · Falcon-H1
Falcon-H1 34B: especificações, requisitos GPU, alojamento e implementação
Falcon-H1 34B é uma versão Atual da linha Geral de Falcon, certificada pela revisão oficial.
Parâmetros totais34,0B
Parâmetros ativosModelo denso
Janela de contexto131 072 tokens
Estado da versãoAtual · Atual
ArquiteturaDense Transformer
ModalidadesTexto
LicençaLicença Falcon LLM
Estado de implementaçãoPode ser implementado com uma configuração certificada
Estado comercialUso comercial permitido com condições
Data de lançamento2025-05-01
Arquitetura, vantagens e usos
Falcon-H1 34B é uma versão oficial autoalojável da Technology Innovation Institute na linha Falcon Geral. Usa Dense Transformer com 34B e contexto verificado de 131,072 tokens.
Falcon-H1 34B usa Dense Transformer com 34B. O perfil regista 64 camadas, largura 8192 e 64 cabeças de atenção quando publicados.
Arquitetura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniência oficial do checkpoint
Inferência LLM privada
Fluxos de agentes
Documentos de contexto longo
Checkpoints e quantizações certificados
São mostradas apenas variantes exatas desta versão, certificadas pela fonte.
Hardware recomendado
Use apenas configurações de ambiente de execução certificadas com a precisão exata. A classificação verifica pesos, cache KV, sobrecarga, arquitetura GPU e topologia.
Memória estimada dos pesos65.23 GB
KV cache2 GB
Sobrecarga do ambiente de execução16.92 GB
Total com margem de segurança104.34 GB
Melhor valor recomendado
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
55.66 GB de margem · Disponível
USD 1 830 / mêsOpção viável de menor custo
5× NVIDIA L4 24GB
120 GB VRAM total · pcie
15.66 GB de margem · Disponível
USD 1 250 / mêsMaior desempenho
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
55.66 GB de margem · Disponível
USD 1 830 / mêsLicença e alojamento próprio
Os 34 B de pesos residentes têm de caber nas GPUs. Contexto e concorrência adicionam cache KV.
Falcon-H1 34B é publicado sob Licença Falcon LLM. O URL oficial e a data de verificação são guardados.
Uso comercial permitido com condições. O uso comercial está sujeito a condições. Consulte as condições oficiais indicadas antes da implementação.
Cronologia da versão
tii/falcon/falcon-h1-34b
Detalhes da fonte
Revisão da fonte: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
Perguntas frequentes
Quanta VRAM requer Falcon-H1 34B?
A estimativa depende da precisão, contexto e concorrência e usa dados certificados.
Que ambientes de execução suportam Falcon-H1 34B?
Existem provas oficiais certificadas para transformers.
Falcon-H1 34B pode ser usado comercialmente?
A classificação guardada é Uso comercial permitido com condições. Consulte os termos oficiais de Licença Falcon LLM.
Referências oficiais
Última verificação: 2026-08-26