Zum Hauptinhalt springen

Mistral · Kompaktes Universalmodell · Mistral Small 4

Mistral Small 4 119B A6B: Daten, GPU-Bedarf, Hosting und Bereitstellung

Mistral Small 4 119B A6B ist eine Aktuell-Version im Kompaktes Universalmodell-Zweig der Mistral-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für Mistral Small 4 119B A6B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter119,0B
Aktive Parameter6,0B
Kontextfenster1.048.576 tokens
VersionsstatusAktuell · Aktuell
ArchitekturMistral3ForConditionalGeneration
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2026-01-23

Architektur, Stärken und Einsatzbereiche

Mistral Small 4 119B A6B ist eine offizielle selbst hostbare Mistral AI-Version im Zweig Mistral Kompaktes Universalmodell. Sie nutzt Mistral3ForConditionalGeneration mit 119B / 6B MoE und 1,048,576 geprüften Kontext-Token.

Mistral Small 4 119B A6B nutzt Mistral3ForConditionalGeneration mit 119B / 6B MoE. Das Quellenprofil enthält 36 Schichten, Breite 4096 und 32 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Mistral3ForConditionalGeneration-Architektur
1,048,576 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

Mistral-Small-4-119B-2603

mistralai/Mistral-Small-4-119B-2603

Offiziell · FP8 · safetensors

Laufzeitumgebung verifiziert: Transformers vLLM SGLang

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
FP8safetensors8OffiziellLaufzeitumgebung verifiziert

Mistral-Small-4-119B-2603-NVFP4

mistralai/Mistral-Small-4-119B-2603-NVFP4

Offiziell · NVFP4 · safetensors

Laufzeitumgebung verifiziert: Transformers vLLM SGLang

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
NVFP4safetensors4OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher114.15 GB
KV cache2.25 GB
Laufzeitaufwand37.8 GB
Gesamt mit Sicherheitsreserve191.21 GB

Empfohlenes Preis-Leistungs-Verhältnis

3× NVIDIA H100 SXM 80GB

240 GB VRAM gesamt · nvswitch

48.79 GB Reserve · Verfügbar

USD 5.580 / Monat

Günstigste geeignete Option

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

90.79 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Höchste Leistung

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

90.79 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 119 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

Mistral Small 4 119B A6B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Versionsverlauf

mistral-ai/mistral/mistral-small-4-119b @ 37909a0153738d7a6b9e5172ae822191318b7a5f040a84c8346965a01c32d5c4

Offizielle Quelle

Häufige Fragen

Wie viel VRAM benötigt Mistral Small 4 119B A6B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen Mistral Small 4 119B A6B?

Geprüfte Upstream-Belege liegen für transformers, vllm, sglang vor.

Darf Mistral Small 4 119B A6B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26