মূল content-এ যান

Mistral · ছোট সাধারণ মডেল · Mistral Small 4

Mistral Small 4 119B A6B: বৈশিষ্ট্য, GPU প্রয়োজন, hosting ও deployment

Mistral Small 4 119B A6B is a current Generalist Small release in the Mistral family, certified from its immutable official source revision.

Technical deployment reference illustration for Mistral Small 4 119B A6B
Reference deployment flow; exact architecture facts are listed separately.
মোট প্যারামিটার১১৯.০B
সক্রিয় প্যারামিটার৬.০B
প্রসঙ্গ-উইন্ডো১০,৪৮,৫৭৬ tokens
প্রকাশনার অবস্থাবর্তমান · বর্তমান
স্থাপত্যMistral3ForConditionalGeneration
মোডালিটিটেক্সট
লাইসেন্সApache 2.0
স্থাপনার অবস্থাসনদপ্রাপ্ত কনফিগারেশনে স্থাপনযোগ্য
বাণিজ্যিক অবস্থাবাণিজ্যিক ব্যবহার অনুমোদিত
প্রকাশের তারিখ2026-01-23

স্থাপত্য, শক্তির দিক ও ব্যবহার

Mistral Small 4 119B A6B is an official self-hostable Mistral AI release in the Mistral Generalist Small track. It uses Mistral3ForConditionalGeneration, carries 119B / 6B MoE, supports a verified context window of 1,048,576 টোকেন, and exposes only source-certified checkpoint and runtime combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

Mistral Small 4 119B A6B uses Mistral3ForConditionalGeneration with 119B / 6B MoE. The stored architecture profile records 36 layers, hidden width 4096, 32 attention heads and a 1,048,576 টোকেন context ceiling where the official configuration publishes those fields.

Verified Mistral3ForConditionalGeneration architecture
1,048,576 টোকেন certified context
Official FP8, NVFP4 checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

সনদপ্রাপ্ত checkpoint ও quantization

শুধু এই release-এর সঙ্গে যুক্ত নির্দিষ্ট, উৎস-সনদপ্রাপ্ত variant দেখানো হয়।

Mistral-Small-4-119B-2603

mistralai/Mistral-Small-4-119B-2603

সরকারি · FP8 · safetensors

Runtime সনদপ্রাপ্ত: Transformers vLLM SGLang

Precision / quantizationফরম্যাটবিটপ্রকাশকের বিশ্বাসযোগ্যতাস্থাপনার অবস্থা
FP8safetensors8সরকারিRuntime সনদপ্রাপ্ত

Mistral-Small-4-119B-2603-NVFP4

mistralai/Mistral-Small-4-119B-2603-NVFP4

সরকারি · NVFP4 · safetensors

Runtime সনদপ্রাপ্ত: Transformers vLLM SGLang

Precision / quantizationফরম্যাটবিটপ্রকাশকের বিশ্বাসযোগ্যতাস্থাপনার অবস্থা
NVFP4safetensors4সরকারিRuntime সনদপ্রাপ্ত

প্রস্তাবিত হার্ডওয়্যার

Use only the listed transformers, vllm, sglang runtime configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, runtime overhead, safety অতিরিক্ত সক্ষমতার অবকাশ, GPU architecture and topology before ranking rentable and reference hardware.

Weight-এর আনুমানিক memory114.15 GB
KV cache2.25 GB
চালনার অতিরিক্ত সম্পদব্যয়37.8 GB
নিরাপত্তা মার্জিনসহ মোট191.21 GB

সেরা মূল্য-সুবিধার প্রস্তাব

3× NVIDIA H100 SXM 80GB

240 GB মোট VRAM · nvswitch

48.79 GB অতিরিক্ত সক্ষমতা · উপলভ্য

USD ৫,৫৮০ / মাস

সর্বনিম্ন ব্যয়ের কার্যকর বিকল্প

2× NVIDIA H200 SXM 141GB

282 GB মোট VRAM · nvswitch

90.79 GB অতিরিক্ত সক্ষমতা · সীমিত সক্ষমতা

USD ৪,৬৯০ / মাস

সর্বোচ্চ কর্মক্ষমতা

2× NVIDIA H200 SXM 141GB

282 GB মোট VRAM · nvswitch

90.79 GB অতিরিক্ত সক্ষমতা · সীমিত সক্ষমতা

USD ৪,৬৯০ / মাস

লাইসেন্স ও নিজস্ব অবকাঠামোয় চালানোর বিবেচনা

The full 119B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

Mistral Small 4 119B A6B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

বাণিজ্যিক ব্যবহার অনুমোদিত. সরকারি লাইসেন্সে বাণিজ্যিক ব্যবহারের অনুমতি আছে; লাইসেন্সের শর্তগুলো তবুও প্রযোজ্য।

Release-এর সময়রেখা

mistral-ai/mistral/mistral-small-4-119b

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: 37909a0153738d7a6b9e5172ae822191318b7a5f040a84c8346965a01c32d5c4

সাধারণ জিজ্ঞাসা

How much VRAM does Mistral Small 4 119B A6B require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible runtime configurations.

Which runtime সহায়তা Mistral Small 4 119B A6B?

Certified upstream runtime evidence is available for transformers, vllm, sglang.

Can Mistral Small 4 119B A6B be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

সরকারি তথ্যসূত্র

সর্বশেষ যাচাই: 2026-08-26