Zum Hauptinhalt springen

Mistral · Universalmodell mittlerer Größe · Mistral Medium 3.5

Mistral Medium 3.5 128B: Daten, GPU-Bedarf, Hosting und Bereitstellung

Mistral Medium 3.5 128B ist eine Aktuell-Version im Universalmodell mittlerer Größe-Zweig der Mistral-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für Mistral Medium 3.5 128B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter128,0B
Aktive ParameterDichtes Modell
Kontextfenster262.144 tokens
VersionsstatusAktuell · Aktuell
ArchitekturMistral3ForConditionalGeneration
ModalitätenText
LizenzModifizierte MIT-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung unter Auflagen erlaubt
Veröffentlichungsdatum2026-03-31

Architektur, Stärken und Einsatzbereiche

Mistral Medium 3.5 128B ist eine offizielle selbst hostbare Mistral AI-Version im Zweig Mistral Universalmodell mittlerer Größe. Sie nutzt Mistral3ForConditionalGeneration mit 128B und 262,144 geprüften Kontext-Token.

Mistral Medium 3.5 128B nutzt Mistral3ForConditionalGeneration mit 128B. Das Quellenprofil enthält 88 Schichten, Breite 12288 und 96 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Mistral3ForConditionalGeneration-Architektur
262,144 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

Mistral-Medium-3.5-128B

mistralai/Mistral-Medium-3.5-128B

Offiziell · FP8 · safetensors

Laufzeitumgebung verifiziert: Transformers vLLM SGLang

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
FP8safetensors8OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher122.79 GB
KV cache1.38 GB
Laufzeitaufwand40.47 GB
Gesamt mit Sicherheitsreserve204.15 GB

Empfohlenes Preis-Leistungs-Verhältnis

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

77.85 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Günstigste geeignete Option

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

77.85 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Höchste Leistung

2× NVIDIA H200 SXM 141GB

282 GB VRAM gesamt · nvswitch

77.85 GB Reserve · Begrenzte Kapazität

USD 4.690 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 128 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

Mistral Medium 3.5 128B wird unter Modifizierte MIT-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung unter Auflagen erlaubt. Die kommerzielle Nutzung ist an Bedingungen geknüpft. Prüfen Sie vor der Bereitstellung die verlinkten offiziellen Bedingungen.

Alternativen und gleichrangige Varianten

Mistral-Medium-3.5-128B, Mistral-Medium-3.5-128B-NVFP4, Mistral-Medium-3.5-128B-EAGLE

Versionsverlauf

mistral-ai/mistral/mistral-medium-3-5-128b @ bd6dc6b9d18a72d3a09e68492438a99b4c0bc8ced688686458f2e9e2116d5a87

Offizielle Quelle

Häufige Fragen

Wie viel VRAM benötigt Mistral Medium 3.5 128B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen Mistral Medium 3.5 128B?

Geprüfte Upstream-Belege liegen für transformers, vllm, sglang vor.

Darf Mistral Medium 3.5 128B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung unter Auflagen erlaubt. Maßgeblich sind die offiziellen Modifizierte MIT-Lizenz-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26