Saltar al contenido principal

InternLM · General · InternLM3

InternLM3 8B: especificaciones, GPU, hosting y despliegue

InternLM3 8B es una versión Legado de la línea General de InternLM, certificada desde su revisión oficial.

Ilustración técnica de despliegue para InternLM3 8B
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales8,0B
Parámetros activosModelo denso
Ventana de contexto131.072 tokens
Estado de versiónLegado · Legado
ArquitecturaDense Transformer
ModalidadesTexto
LicenciaLicencia Apache 2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-01-13

Arquitectura, fortalezas y usos

InternLM3 8B es una versión oficial autoalojable de Shanghai AI Laboratory en la línea InternLM General. Usa Dense Transformer con 8B y un contexto verificado de 131,072 tokens.

InternLM3 8B usa Dense Transformer con 8B. El perfil registra 64 capas, ancho oculto 8192 y 64 cabezas de atención cuando se publican.

Arquitectura Dense Transformer verificada
Contexto certificado de 131,072 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

internlm3-8b-instruct

internlm/internlm3-8b-instruct

Oficial · BF16 · safetensors

Entorno de ejecución certificado: vLLM Transformers

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos15.35 GB
KV cache2 GB
Sobrecarga del entorno de ejecución7.84 GB
Total con margen de seguridad31.24 GB

Mejor relación calidad-precio

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margen · Capacidad limitada

USD 2.345 / mes

Opción viable de menor coste

2× NVIDIA L4 24GB

48 GB VRAM total · pcie

16.76 GB de margen · Disponible

USD 500 / mes

Máximo rendimiento

1× NVIDIA H200 SXM 141GB

141 GB VRAM total · nvswitch

109.76 GB de margen · Capacidad limitada

USD 2.345 / mes

Licencia y autoalojamiento

Los 8 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

InternLM3 8B se publica bajo Licencia Apache 2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Cronología de la versión

internlm/internlm/internlm3-8b

Detalles de la fuente

Fuente oficial

Revisión de la fuente: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6

Preguntas frecuentes

¿Cuánta VRAM requiere InternLM3 8B?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten InternLM3 8B?

Hay pruebas oficiales certificadas para vllm, transformers.

¿Puede usarse InternLM3 8B comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de Licencia Apache 2.0.

Referencias oficiales

Última verificación: 2026-08-26