Architektur, Stärken und Einsatzbereiche
Mistral Small 4 119B A6B ist eine offizielle selbst hostbare Mistral AI-Version im Zweig Mistral Kompaktes Universalmodell. Sie nutzt Mistral3ForConditionalGeneration mit 119B / 6B MoE und 1,048,576 geprüften Kontext-Token.
Mistral Small 4 119B A6B nutzt Mistral3ForConditionalGeneration mit 119B / 6B MoE. Das Quellenprofil enthält 36 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Mistral3ForConditionalGeneration-Architektur
1,048,576 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente