Technischer Transformationsstatus
Transformation unterstützt
Öffentliches Release mit offenen Gewichten, verifiziert und durch maßgebliche Checkpoint-Nachweise belegt.
Mistral / Mistral Small 4 119B A6B
Transformationsoptionen für Mistral Small 4 119B A6B
Jede Modellversion wird anhand der Registerdaten, der Preisbestandteile und ihrer Kompatibilität mit der Laufzeitumgebung geprüft.
Architektur
Mistral3ForConditionalGeneration
Parameter: 119,00B · Kontextfenster: 1.048.576
Unterstützte Transformationen
Quantisierung
Pro Version validiert
Aufbereitung der Laufzeitumgebung
Pro Version validiert
Verwaltetes Hosting
Pro Version validiert
Destillation
Pro Version validiert
GPU-Auswahl
Pro Version validiert
Evaluierung und Vergleichstest
Pro Version validiert
Paket herunterladen
Pro Version validiert
Quantisierung
FP8
Präzision, Speicherbedarf, Kontextlänge und Eignung für die Laufzeitumgebung werden anhand der Versionsnachweise bewertet, bevor eine Bestellung möglich ist.
NVFP4
Präzision, Speicherbedarf, Kontextlänge und Eignung für die Laufzeitumgebung werden anhand der Versionsnachweise bewertet, bevor eine Bestellung möglich ist.
Veröffentlichte Pakete
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Herunterladbares Produktionspaket
Mistral · Mistral Small 4 119B A6B
Paketprofil: Herunterladbares Produktionspaket
Transformationsvorgänge: FP8-Quantisierung, Evaluierung und Vergleichstest
Ziel-GPU: Hardware wird im Konfigurator ausgewählt
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Paket herunterladen
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8transformers Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 70.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA H200 SXM 141GB
GPU-Anzahl: 2
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt2 × NVIDIA H200 SXM 141GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA H100 SXM 80GB
GPU-Anzahl: 2
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt2 × NVIDIA H100 SXM 80GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA H100 PCIe 80GB
GPU-Anzahl: 2
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt2 × NVIDIA H100 PCIe 80GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA A100 SXM 80GB
GPU-Anzahl: 2
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt2 × NVIDIA A100 SXM 80GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA L40S 48GB
GPU-Anzahl: 4
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt4 × NVIDIA L40S 48GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Technisch bereit
FP8-Produktionspaket für Mistral Small 4 119B A6B - Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Mistral · Mistral Small 4 119B A6B
Paketprofil: Gehosteter Produktionsbetrieb mit festgelegter Ziel-GPU
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
Ziel-GPU: NVIDIA L4 24GB
GPU-Anzahl: 7
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
fp8Ziel-GPU festgelegt7 × NVIDIA L4 24GBtransformersFür die Laufzeitumgebung optimiert Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 76.160
Einmalige Entwicklung
Design validiert
Destillationspaket für Mistral Small 4 119B A6B - Qualitätserhaltende Destillation
Mistral · Mistral Small 4 119B A6B
Paketprofil: Qualitätserhaltende Destillation
Transformationsvorgänge: Destillation, Evaluierung und Vergleichstest
Ziel-GPU: Hardware wird im Konfigurator ausgewählt
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Paket herunterladen
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
DestillationQualitätserhalttransformers Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 150.535
Einmalige Entwicklung
Design validiert
Destillationspaket für Mistral Small 4 119B A6B - Durchsatzoptimierte Destillation
Mistral · Mistral Small 4 119B A6B
Paketprofil: Durchsatzoptimierte Destillation
Transformationsvorgänge: Destillation, Evaluierung und Vergleichstest
Ziel-GPU: Hardware wird im Konfigurator ausgewählt
Aufbereitung der Laufzeitumgebung: transformers
Konfigurierte Bereitstellung: Paket herunterladen
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
DestillationDurchsatzoptimierttransformers Paket herunterladenMit FusionPointAI hostenHerunterladen + hosten
USD 150.535
Einmalige Entwicklung