Passer au contenu principal

Seed-OSS · Général · Seed-OSS 36B

Seed-OSS 36B Instruct : caractéristiques, besoins GPU, hébergement et déploiement

Seed-OSS 36B Instruct est une version Actuel de la branche Général de Seed-OSS, certifiée depuis sa révision officielle.

Calculer la recommandation Personnaliser un modèle Transformation de modèles pour les entreprises Comparer ce modèle
Illustration technique de déploiement pour Seed-OSS 36B Instruct
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux36,0B
Paramètres actifsModèle dense
Fenêtre de contexte524 288 tokens
Statut de la versionActuel · Actuel
Architecture du modèleSeedOssForCausalLM
ModalitésTexte
Licenceapache-2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2025-08-20

Architecture, points forts et usages

Seed-OSS 36B Instruct est une version officielle auto-hébergeable de ByteDance Seed dans la branche Seed-OSS Général. Elle utilise SeedOssForCausalLM avec 36B et un contexte vérifié de 524,288 tokens.

Seed-OSS 36B Instruct utilise SeedOssForCausalLM avec 36B. Le profil vérifié indique 64 couches, une largeur cachée de 5120 et 80 têtes d’attention lorsque ces valeurs sont publiées.

Architecture SeedOssForCausalLM vérifiée
Contexte certifié de 524,288 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

Officiel · BF16 · safetensors

Environnement d’exécution certifié: Transformers vLLM

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
BF16safetensors16OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids69.07 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution17.89 GB
Total avec marge de sécurité110.31 GB

Meilleur rapport qualité-prix

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

49.69 GB de marge · Disponible

USD 1 830 / mois

Option viable la moins chère

5× NVIDIA L4 24GB

120 GB VRAM totale · pcie

9.69 GB de marge · Disponible

USD 1 250 / mois

Performances maximales

2× NVIDIA A100 SXM 80GB

160 GB VRAM totale · nvlink

49.69 GB de marge · Disponible

USD 1 830 / mois

Licence et considérations d’auto-hébergement

Les 36 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

Seed-OSS 36B Instruct est publié sous apache-2.0. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.

Comparaisons éditoriales

Seed-OSS vs ERNIE 4.5

Chronologie des versions

bytedance-seed/seed-oss/seed-oss-36b-instruct @ c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

Source officielle

Questions fréquentes

Quelle VRAM faut-il pour Seed-OSS 36B Instruct ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge Seed-OSS 36B Instruct ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers, vllm.

Seed-OSS 36B Instruct peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de apache-2.0.

Références officielles

Dernière vérification: 2026-09-03