Zum Hauptinhalt springen

Seed-OSS · Allgemein · Seed-OSS 36B

Seed-OSS 36B Instruct: Daten, GPU-Bedarf, Hosting und Bereitstellung

Seed-OSS 36B Instruct ist eine Aktuell-Version im Allgemein-Zweig der Seed-OSS-Familie und anhand der offiziellen Revision zertifiziert.

Empfehlung berechnen Modell anpassen Enterprise-Modelltransformation Dieses Modell vergleichen
Technische Bereitstellungsillustration für Seed-OSS 36B Instruct
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter36,0B
Aktive ParameterDichtes Modell
Kontextfenster524.288 tokens
VersionsstatusAktuell · Aktuell
ArchitekturSeedOssForCausalLM
ModalitätenText
Lizenzapache-2.0
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-08-20

Architektur, Stärken und Einsatzbereiche

Seed-OSS 36B Instruct ist eine offizielle selbst hostbare ByteDance Seed-Version im Zweig Seed-OSS Allgemein. Sie nutzt SeedOssForCausalLM mit 36B und 524,288 geprüften Kontext-Token.

Seed-OSS 36B Instruct nutzt SeedOssForCausalLM mit 36B. Das Quellenprofil enthält 64 Schichten, Breite 5120 und 80 Attention-Köpfe, soweit veröffentlicht.

Geprüfte SeedOssForCausalLM-Architektur
524,288 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Transformers vLLM

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher69.07 GB
KV cache2 GB
Laufzeitaufwand17.89 GB
Gesamt mit Sicherheitsreserve110.31 GB

Empfohlenes Preis-Leistungs-Verhältnis

2× NVIDIA A100 SXM 80GB

160 GB VRAM gesamt · nvlink

49.69 GB Reserve · Verfügbar

USD 1.830 / Monat

Günstigste geeignete Option

5× NVIDIA L4 24GB

120 GB VRAM gesamt · pcie

9.69 GB Reserve · Verfügbar

USD 1.250 / Monat

Höchste Leistung

2× NVIDIA A100 SXM 80GB

160 GB VRAM gesamt · nvlink

49.69 GB Reserve · Verfügbar

USD 1.830 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 36 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

Seed-OSS 36B Instruct wird unter apache-2.0 veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Redaktionelle Vergleiche

Seed-OSS vs ERNIE 4.5

Versionsverlauf

bytedance-seed/seed-oss/seed-oss-36b-instruct

Quellendetails

Offizielle Quelle

Quellrevision: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

Häufige Fragen

Wie viel VRAM benötigt Seed-OSS 36B Instruct?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen Seed-OSS 36B Instruct?

Geprüfte Upstream-Belege liegen für transformers, vllm vor.

Darf Seed-OSS 36B Instruct kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen apache-2.0-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-09-03