Falcon-H1-34B-Instruct
Oficial · BF16 · safetensors
Entorno de ejecución certificado: Transformers
| Precisión / cuantización | Formato | Bits | Confianza del editor | Estado de despliegue |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Oficial | Entorno de ejecución certificado |
Falcon · General · Falcon-H1
Falcon-H1 34B: especificaciones, GPU, hosting y despliegue
Falcon-H1 34B es una versión Actual de la línea General de Falcon, certificada desde su revisión oficial.
Parámetros totales34,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónActual · Actual
ArquitecturaDense Transformer
ModalidadesTexto
LicenciaLicencia Falcon LLM
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido con condiciones
Fecha de lanzamiento2025-05-01
Arquitectura, fortalezas y usos
Falcon-H1 34B es una versión oficial autoalojable de Technology Innovation Institute en la línea Falcon General. Usa Dense Transformer con 34B y un contexto verificado de 131,072 tokens.
Falcon-H1 34B usa Dense Transformer con 34B. El perfil registra 64 capas, ancho oculto 8192 y 64 cabezas de atención cuando se publican.
Arquitectura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo
Checkpoints y cuantizaciones certificados
Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.
Hardware recomendado
Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.
Memoria estimada de pesos65.23 GB
KV cache2 GB
Sobrecarga del entorno de ejecución16.92 GB
Total con margen de seguridad104.34 GB
Mejor relación calidad-precio
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
55.66 GB de margen · Disponible
USD 1.830 / mesOpción viable de menor coste
5× NVIDIA L4 24GB
120 GB VRAM total · pcie
15.66 GB de margen · Disponible
USD 1.250 / mesMáximo rendimiento
2× NVIDIA A100 SXM 80GB
160 GB VRAM total · nvlink
55.66 GB de margen · Disponible
USD 1.830 / mesLicencia y autoalojamiento
Los 34 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.
Falcon-H1 34B se publica bajo Licencia Falcon LLM. Se conservan la URL oficial y la fecha de verificación.
Uso comercial permitido con condiciones. El uso comercial está sujeto a condiciones. Revise las condiciones oficiales indicadas antes del despliegue.
Cronología de la versión
tii/falcon/falcon-h1-34b
Detalles de la fuente
Revisión de la fuente: e0adf235567718a8d0f0381e605f5e2badcd7b85bafeb06a3019d91aec0d19ed
Preguntas frecuentes
¿Cuánta VRAM requiere Falcon-H1 34B?
La estimación depende de precisión, contexto y concurrencia y usa datos certificados.
¿Qué entornos de ejecución admiten Falcon-H1 34B?
Hay pruebas oficiales certificadas para transformers.
¿Puede usarse Falcon-H1 34B comercialmente?
La clasificación es Uso comercial permitido con condiciones. Consulte los términos oficiales de Licencia Falcon LLM.
Referencias oficiales
Última verificación: 2026-08-26