Saltar al contenido principal

Seed-OSS · General · Seed-OSS 36B

Seed-OSS 36B Instruct: especificaciones, GPU, hosting y despliegue

Seed-OSS 36B Instruct es una versión Actual de la línea General de Seed-OSS, certificada desde su revisión oficial.

Ilustración técnica de despliegue para Seed-OSS 36B Instruct
Flujo de referencia; los datos exactos se muestran aparte.
Parámetros totales36,0B
Parámetros activosModelo denso
Ventana de contexto524.288 tokens
Estado de versiónActual · Actual
ArquitecturaSeedOssForCausalLM
ModalidadesTexto
Licenciaapache-2.0
Estado de desplieguePuede desplegarse con una configuración certificada
Estado comercialUso comercial permitido
Fecha de lanzamiento2025-08-20

Arquitectura, fortalezas y usos

Seed-OSS 36B Instruct es una versión oficial autoalojable de ByteDance Seed en la línea Seed-OSS General. Usa SeedOssForCausalLM con 36B y un contexto verificado de 524,288 tokens.

Seed-OSS 36B Instruct usa SeedOssForCausalLM con 36B. El perfil registra 64 capas, ancho oculto 5120 y 80 cabezas de atención cuando se publican.

Arquitectura SeedOssForCausalLM verificada
Contexto certificado de 524,288 tokens
Proveniencia oficial del checkpoint
Inferencia LLM privada
Flujos con agentes
Documentos de contexto largo

Checkpoints y cuantizaciones certificados

Solo se muestran variantes exactas, vinculadas a esta versión y certificadas por su fuente.

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

Oficial · BF16 · safetensors

Entorno de ejecución certificado: Transformers vLLM

Precisión / cuantizaciónFormatoBitsConfianza del editorEstado de despliegue
BF16safetensors16OficialEntorno de ejecución certificado

Hardware recomendado

Use solo configuraciones de entorno de ejecución certificadas con la precisión exacta. El ranking comprueba pesos, caché KV, sobrecarga, arquitectura GPU y topología.

Memoria estimada de pesos69.07 GB
KV cache2 GB
Sobrecarga del entorno de ejecución17.89 GB
Total con margen de seguridad110.31 GB

Mejor relación calidad-precio

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

49.69 GB de margen · Disponible

USD 1.830 / mes

Opción viable de menor coste

5× NVIDIA L4 24GB

120 GB VRAM total · pcie

9.69 GB de margen · Disponible

USD 1.250 / mes

Máximo rendimiento

2× NVIDIA A100 SXM 80GB

160 GB VRAM total · nvlink

49.69 GB de margen · Disponible

USD 1.830 / mes

Licencia y autoalojamiento

Los 36 B de pesos residentes deben caber en las GPU. Contexto y concurrencia añaden caché KV.

Seed-OSS 36B Instruct se publica bajo apache-2.0. Se conservan la URL oficial y la fecha de verificación.

Uso comercial permitido. La licencia oficial permite el uso comercial; todas sus obligaciones siguen vigentes.

Comparaciones seleccionadas

Cronología de la versión

bytedance-seed/seed-oss/seed-oss-36b-instruct

Detalles de la fuente

Fuente oficial

Revisión de la fuente: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

Preguntas frecuentes

¿Cuánta VRAM requiere Seed-OSS 36B Instruct?

La estimación depende de precisión, contexto y concurrencia y usa datos certificados.

¿Qué entornos de ejecución admiten Seed-OSS 36B Instruct?

Hay pruebas oficiales certificadas para transformers, vllm.

¿Puede usarse Seed-OSS 36B Instruct comercialmente?

La clasificación es Uso comercial permitido. Consulte los términos oficiales de apache-2.0.

Referencias oficiales

Última verificación: 2026-09-03