اصلي منځپانګې ته ورټوپ کړئ

Seed-OSS · عمومي · Seed-OSS 36B

Seed-OSS 36B Instruct: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

Seed-OSS 36B Instruct is a current General release in the Seed-OSS family, certified from its immutable official source revision.

Technical deployment reference illustration for Seed-OSS 36B Instruct
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۳۶٫۰B
فعال پارامېټرونهDense ماډل
د context کړکۍ۵۲۴٬۲۸۸ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريSeedOssForCausalLM
موداليټي‌ګانېمتن
جوازapache-2.0
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2025-08-20

معماري، پیاوړتیاوې او کارونې

Seed-OSS 36B Instruct is an official self-hostable ByteDance Seed release in the Seed-OSS General track. It uses SeedOssForCausalLM, carries 36B, supports a verified context window of 524,288 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

Seed-OSS 36B Instruct uses SeedOssForCausalLM with 36B. The stored architecture profile records 64 layers, hidden width 5120, 80 attention heads and a 524,288 ټوکن context ceiling where the official configuration publishes those fields.

Verified SeedOssForCausalLM architecture
524,288 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

Seed-OSS-36B-Instruct

ByteDance-Seed/Seed-OSS-36B-Instruct

رسمي · BF16 · safetensors

اجرا چاپېریال تایید شوی: Transformers vLLM

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
BF16safetensors16رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed transformers, vllm د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه69.07 GB
KV cache2 GB
د اجرا چاپېریال اضافي اړتیا17.89 GB
ټول له خوندیتوب حاشیې سره110.31 GB

د ارزښت له مخې غوره سپارښتنه

2× NVIDIA A100 SXM 80GB

160 GB ټول VRAM · nvlink

49.69 GB اضافي ظرفیت · شته

USD ۱٬۸۳۰ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

5× NVIDIA L4 24GB

120 GB ټول VRAM · pcie

9.69 GB اضافي ظرفیت · شته

USD ۱٬۲۵۰ / میاشت

تر ټولو لوړ فعالیت

2× NVIDIA A100 SXM 80GB

160 GB ټول VRAM · nvlink

49.69 GB اضافي ظرفیت · شته

USD ۱٬۸۳۰ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 36B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

Seed-OSS 36B Instruct is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.

غوره شوې پرتله‌ګانې

د نسخو مهالوېش

bytedance-seed/seed-oss/seed-oss-36b-instruct

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699

ډېرې پوښتل شوې پوښتنې

How much VRAM does Seed-OSS 36B Instruct require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ Seed-OSS 36B Instruct?

Certified upstream د اجرا چاپېریال evidence is available for transformers, vllm.

Can Seed-OSS 36B Instruct be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official apache-2.0 terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-09-03