Passer au contenu principal

Prêt pour l’ingénierie

Package de production FP8 pour Ministral 3 8B Instruct 2512

Mistral / Ministral 3 8B Instruct 2512 · fp8 · État de l’ingénierie: Prêt pour l’ingénierie

Détails

Lignage de transformation

Version de baseMinistral 3 8B Instruct 2512
Ingénierie des modèlesQuantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative
Options de livraisonTélécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

Tarification transparente

  • Ingénierie du modèle de baseUSD 17 400
  • Quantification FP8USD 5 900
  • Préparation de l’environnement d’exécutionUSD 2 800
  • Évaluation et analyse comparativeUSD 3 600
  • Télécharger le livrableUSD 1 500
  • Configuration du déploiement géréUSD 3 200
  • Ingénierie ponctuelleUSD 34 400

Hébergement mensuel

  • 1 x NVIDIA H100 SXM 80GBUSD 1 860
  • Hébergement mensuelUSD 1 860

Version source

Famille de modèles
Mistral
Version de base
Ministral 3 8B Instruct 2512
Type de package
Quantifié
Précision source
Non renseigné
Précision cible
FP8
État de l’ingénierie
Prêt pour l’ingénierie
État de disponibilité à la commande
Disponible à la commande

Livrables prévus

Non renseigné

Adéquation à la mémoire GPU

Poids du modèle estimés: 8.72 GB

Cache KV estimé: 2 GB

VRAM requise estimée: 17.67 GB

VRAM disponible estimée: 80 GB

État des mesures

Estimation uniquement

Aucun résultat de benchmark mesuré n’est renseigné pour ce package.

Limites de livraison

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

Lignage de transformation

Précision source: Non renseigné

Précision cible: FP8

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

Topologie GPU

GPU cible: NVIDIA H100 SXM 80GB

Nombre de GPU: 1

Préparation de l’environnement d’exécution: transformers