Seed-OSS-36B-Instruct
ByteDance-Seed/Seed-OSS-36B-Instruct
সরকারি · BF16 · safetensors
Runtime সনদপ্রাপ্ত: Transformers vLLM
| Precision / quantization | ফরম্যাট | বিট | প্রকাশকের বিশ্বাসযোগ্যতা | স্থাপনার অবস্থা |
|---|---|---|---|---|
| BF16 | safetensors | 16 | সরকারি | Runtime সনদপ্রাপ্ত |
Seed-OSS · সাধারণ · Seed-OSS 36B
Seed-OSS 36B Instruct: বৈশিষ্ট্য, GPU প্রয়োজন, hosting ও deployment
Seed-OSS 36B Instruct is a current General release in the Seed-OSS family, certified from its immutable official source revision.
মোট প্যারামিটার৩৬.০B
সক্রিয় প্যারামিটারঘন মডেল
প্রসঙ্গ-উইন্ডো৫,২৪,২৮৮ tokens
প্রকাশনার অবস্থাবর্তমান · বর্তমান
স্থাপত্যSeedOssForCausalLM
মোডালিটিটেক্সট
লাইসেন্সapache-2.0
স্থাপনার অবস্থাসনদপ্রাপ্ত কনফিগারেশনে স্থাপনযোগ্য
বাণিজ্যিক অবস্থাবাণিজ্যিক ব্যবহার অনুমোদিত
প্রকাশের তারিখ2025-08-20
স্থাপত্য, শক্তির দিক ও ব্যবহার
Seed-OSS 36B Instruct is an official self-hostable ByteDance Seed release in the Seed-OSS General track. It uses SeedOssForCausalLM, carries 36B, supports a verified context window of 524,288 টোকেন, and exposes only source-certified checkpoint and runtime combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
Seed-OSS 36B Instruct uses SeedOssForCausalLM with 36B. The stored architecture profile records 64 layers, hidden width 5120, 80 attention heads and a 524,288 টোকেন context ceiling where the official configuration publishes those fields.
Verified SeedOssForCausalLM architecture
524,288 টোকেন certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
সনদপ্রাপ্ত checkpoint ও quantization
শুধু এই release-এর সঙ্গে যুক্ত নির্দিষ্ট, উৎস-সনদপ্রাপ্ত variant দেখানো হয়।
প্রস্তাবিত হার্ডওয়্যার
Use only the listed transformers, vllm runtime configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, runtime overhead, safety অতিরিক্ত সক্ষমতার অবকাশ, GPU architecture and topology before ranking rentable and reference hardware.
Weight-এর আনুমানিক memory69.07 GB
KV cache2 GB
চালনার অতিরিক্ত সম্পদব্যয়17.89 GB
নিরাপত্তা মার্জিনসহ মোট110.31 GB
সেরা মূল্য-সুবিধার প্রস্তাব
2× NVIDIA A100 SXM 80GB
160 GB মোট VRAM · nvlink
49.69 GB অতিরিক্ত সক্ষমতা · উপলভ্য
USD ১,৮৩০ / মাসসর্বনিম্ন ব্যয়ের কার্যকর বিকল্প
5× NVIDIA L4 24GB
120 GB মোট VRAM · pcie
9.69 GB অতিরিক্ত সক্ষমতা · উপলভ্য
USD ১,২৫০ / মাসসর্বোচ্চ কর্মক্ষমতা
2× NVIDIA A100 SXM 80GB
160 GB মোট VRAM · nvlink
49.69 GB অতিরিক্ত সক্ষমতা · উপলভ্য
USD ১,৮৩০ / মাসলাইসেন্স ও নিজস্ব অবকাঠামোয় চালানোর বিবেচনা
The full 36B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
Seed-OSS 36B Instruct is published under apache-2.0. The release-scoped official license link and verification date are retained with the catalogue record.
বাণিজ্যিক ব্যবহার অনুমোদিত. সরকারি লাইসেন্সে বাণিজ্যিক ব্যবহারের অনুমতি আছে; লাইসেন্সের শর্তগুলো তবুও প্রযোজ্য।
নির্বাচিত তুলনা
Release-এর সময়রেখা
bytedance-seed/seed-oss/seed-oss-36b-instruct
উৎসের বিবরণ
উৎস revision: c12a95e201ac357725e2665e44ba5e974da39a94fec136d8606138c43fc74699
সাধারণ জিজ্ঞাসা
How much VRAM does Seed-OSS 36B Instruct require?
The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible runtime configurations.
Which runtime সহায়তা Seed-OSS 36B Instruct?
Certified upstream runtime evidence is available for transformers, vllm.
Can Seed-OSS 36B Instruct be used commercially?
The stored commercial classification is Commercial Use Allowed. Consult the official apache-2.0 terms for the final obligations.
সরকারি তথ্যসূত্র
সর্বশেষ যাচাই: 2026-09-03