Devstral-2-123B-Instruct-2512
mistralai/Devstral-2-123B-Instruct-2512
رسمي · FP8 · safetensors
اجرا چاپېریال تایید شوی: vLLM
| Precision / quantization | بڼه | بټونه | پر خپروونکي باور | د ځایپرځای کولو حالت |
|---|---|---|---|---|
| FP8 | safetensors | 8 | رسمي | اجرا چاپېریال تایید شوی |
Mistral · Devstral · Devstral 2
Devstral 2 123B Instruct 2512: ځانګړنې، د GPU اړتیاوې، کوربهتوب او ځایپرځای کول
Devstral 2 123B Instruct 2512 is a current Devstral release in the Mistral family, certified from its immutable official source revision.
ټول پارامېټرونه۱۲۳٫۰B
فعال پارامېټرونهDense ماډل
د context کړکۍ۲۶۲٬۱۴۴ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريMinistral3ForCausalLM
موداليټيګانېمتن, کوډ
جوازMIT
د ځایپرځای کولو حالتله تصدیق شوي تنظیم سره ځایپرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه د شرطونو له مخې اجازه لري
د خپرېدو نېټه2025-11-28
معماري، پیاوړتیاوې او کارونې
Devstral 2 123B Instruct 2512 is an official self-hostable Mistral AI release in the Mistral Devstral track. It uses Ministral3ForCausalLM, carries 123B, supports a verified context window of 262,144 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.
Devstral 2 123B Instruct 2512 uses Ministral3ForCausalLM with 123B. The stored architecture profile records 88 layers, hidden width 12288, 96 attention heads and a 262,144 ټوکن context ceiling where the official configuration publishes those fields.
Verified Ministral3ForCausalLM architecture
262,144 ټوکن certified context
Official FP8 checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing
Software engineering and code generation
تایید شوي checkpoint-ونه او quantization-ونه
یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.
سپارښتل شوی هارډوېیر
Use only the listed vllm د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.
د وزنونو اټکلي حافظه117.99 GB
KV cache1.38 GB
د اجرا چاپېریال اضافي اړتیا38.9 GB
ټول له خوندیتوب حاشیې سره196.25 GB
د ارزښت له مخې غوره سپارښتنه
2× NVIDIA H200 SXM 141GB
282 GB ټول VRAM · nvswitch
85.75 GB اضافي ظرفیت · محدود ظرفیت
USD ۴٬۶۹۰ / میاشتد عملي انتخابونو تر ټولو ټیټ لګښت
2× NVIDIA H200 SXM 141GB
282 GB ټول VRAM · nvswitch
85.75 GB اضافي ظرفیت · محدود ظرفیت
USD ۴٬۶۹۰ / میاشتتر ټولو لوړ فعالیت
2× NVIDIA H200 SXM 141GB
282 GB ټول VRAM · nvswitch
85.75 GB اضافي ظرفیت · محدود ظرفیت
USD ۴٬۶۹۰ / میاشتد جواز او خپل کوربهتوب ملاحظات
The full 123B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.
Devstral 2 123B Instruct 2512 is published under MIT. The release-scoped official license link and verification date are retained with the catalogue record.
سوداګریزه کارونه د شرطونو له مخې اجازه لري. سوداګریزه کارونه په شرطونو پورې تړلې ده. تر پلي کولو مخکې تړلي رسمي شرایط بیاکتئ.
بدیلونه او همنسله بڼې
Devstral Small 2 24B
د نسخو مهالوېش
mistral-ai/mistral/devstral-2-123b-instruct-2512
د سرچینې جزئیات
د سرچینې revision: 17e746573df3af5648277fa5ccf3abaa705c7332b91b696e8a9e8347ce21cf2e
ډېرې پوښتل شوې پوښتنې
How much VRAM does Devstral 2 123B Instruct 2512 require?
The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.
Which د اجرا چاپېریالونه ملاتړ Devstral 2 123B Instruct 2512?
Certified upstream د اجرا چاپېریال evidence is available for vllm.
Can Devstral 2 123B Instruct 2512 be used commercially?
The stored commercial classification is Commercial Use Allowed With Conditions. Consult the official MIT terms for the final obligations.
رسمي مراجع
وروستی تایید: 2026-08-26