Technisch bereit
FP8-Produktionspaket für Ministral 3 3B Instruct 2512
Mistral / Ministral 3 3B Instruct 2512 · fp8 · Entwicklungsstand: Technisch bereit
Transformationsabstammung
BasisversionMinistral 3 3B Instruct 2512
ModellentwicklungFP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
BereitstellungsoptionenPaket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
Transparente Preise
- Entwicklung des BasismodellsUSD 12.000
- FP8-QuantisierungUSD 5.900
- Aufbereitung der LaufzeitumgebungUSD 2.800
- Evaluierung und VergleichstestUSD 3.600
- Paket herunterladenUSD 1.500
- Einrichtung der verwalteten BereitstellungUSD 3.200
- Einmalige EntwicklungUSD 29.000
Monatliches Hosting
- 1 x NVIDIA H100 SXM 80GBUSD 1.860
- Monatliches HostingUSD 1.860
Ausgangsversion
- Modellfamilie
- Mistral
- Basisversion
- Ministral 3 3B Instruct 2512
- Pakettyp
- Quantisiert
- Quellpräzision
- Nicht angegeben
- Zielpräzision
- FP8
- Entwicklungsstand
- Technisch bereit
- Bestellstatus
- Bestellbar
Vorgesehene Liefergegenstände
Nicht angegeben
GPU-Speicherbedarf
Geschätzte Modellgewichte: 3.76 GB
Geschätzter KV-Cache: 2 GB
Geschätzter VRAM-Bedarf: 11.72 GB
Geschätzter verfügbarer VRAM: 80 GB
Messstatus
Nur Schätzung
Für dieses Paket sind keine gemessenen Benchmark-Ergebnisse hinterlegt.
Einschränkungen bei der Bereitstellung
Konfigurierte Bereitstellung: Herunterladen + hosten
Bereitstellungsoptionen: Paket herunterladen / Mit FusionPointAI hosten / Herunterladen + hosten
Transformationsabstammung
Quellpräzision: Nicht angegeben
Zielpräzision: FP8
Transformationsvorgänge: FP8-Quantisierung, Aufbereitung der Laufzeitumgebung, Evaluierung und Vergleichstest
GPU-Topologie
Ziel-GPU: NVIDIA H100 SXM 80GB
GPU-Anzahl: 1
Aufbereitung der Laufzeitumgebung: transformers