اصلي منځپانګې ته ورټوپ کړئ

Mistral · کوچنی عمومي‌موخه · Mistral Small 4

Mistral Small 4 119B A6B: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

Mistral Small 4 119B A6B is a current Generalist Small release in the Mistral family, certified from its immutable official source revision.

Technical deployment reference illustration for Mistral Small 4 119B A6B
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۱۱۹٫۰B
فعال پارامېټرونه۶٫۰B
د context کړکۍ۱٬۰۴۸٬۵۷۶ tokens
د نسخې وضعیتاوسنی · اوسنی
معماريMistral3ForConditionalGeneration
موداليټي‌ګانېمتن
جوازApache 2.0
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2026-01-23

معماري، پیاوړتیاوې او کارونې

Mistral Small 4 119B A6B is an official self-hostable Mistral AI release in the Mistral Generalist Small track. It uses Mistral3ForConditionalGeneration, carries 119B / 6B MoE, supports a verified context window of 1,048,576 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

Mistral Small 4 119B A6B uses Mistral3ForConditionalGeneration with 119B / 6B MoE. The stored architecture profile records 36 layers, hidden width 4096, 32 attention heads and a 1,048,576 ټوکن context ceiling where the official configuration publishes those fields.

Verified Mistral3ForConditionalGeneration architecture
1,048,576 ټوکن certified context
Official FP8, NVFP4 checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

Mistral-Small-4-119B-2603

mistralai/Mistral-Small-4-119B-2603

رسمي · FP8 · safetensors

اجرا چاپېریال تایید شوی: Transformers vLLM SGLang

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
FP8safetensors8رسمياجرا چاپېریال تایید شوی

Mistral-Small-4-119B-2603-NVFP4

mistralai/Mistral-Small-4-119B-2603-NVFP4

رسمي · NVFP4 · safetensors

اجرا چاپېریال تایید شوی: Transformers vLLM SGLang

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
NVFP4safetensors4رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed transformers, vllm, sglang د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه114.15 GB
KV cache2.25 GB
د اجرا چاپېریال اضافي اړتیا37.8 GB
ټول له خوندیتوب حاشیې سره191.21 GB

د ارزښت له مخې غوره سپارښتنه

3× NVIDIA H100 SXM 80GB

240 GB ټول VRAM · nvswitch

48.79 GB اضافي ظرفیت · شته

USD ۵٬۵۸۰ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

2× NVIDIA H200 SXM 141GB

282 GB ټول VRAM · nvswitch

90.79 GB اضافي ظرفیت · محدود ظرفیت

USD ۴٬۶۹۰ / میاشت

تر ټولو لوړ فعالیت

2× NVIDIA H200 SXM 141GB

282 GB ټول VRAM · nvswitch

90.79 GB اضافي ظرفیت · محدود ظرفیت

USD ۴٬۶۹۰ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 119B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

Mistral Small 4 119B A6B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.

د نسخو مهالوېش

mistral-ai/mistral/mistral-small-4-119b

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: 37909a0153738d7a6b9e5172ae822191318b7a5f040a84c8346965a01c32d5c4

ډېرې پوښتل شوې پوښتنې

How much VRAM does Mistral Small 4 119B A6B require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ Mistral Small 4 119B A6B?

Certified upstream د اجرا چاپېریال evidence is available for transformers, vllm, sglang.

Can Mistral Small 4 119B A6B be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-08-26