Passer au contenu principal

Mistral / Mistral Small 4 119B A6B

Options de transformation pour Mistral Small 4 119B A6B

Validé pour chaque version à partir des données du registre, des composants tarifaires et de la compatibilité avec l’environnement d’exécution.

État technique de transformation

Transformation prise en charge

Version publique à poids ouverts, vérifiée et étayée par des preuves de points de contrôle faisant autorité.

Architecture

Mistral3ForConditionalGeneration

Paramètres : 119,00B · Fenêtre de contexte : 1 048 576

Transformations prises en charge

Quantification

Validé par version

Préparation de l’environnement d’exécution

Validé par version

Hébergement géré

Validé par version

Distillation

Validé par version

Sélection du GPU

Validé par version

Évaluation et analyse comparative

Validé par version

Télécharger le livrable

Validé par version

Packages publiés

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Version de production téléchargeable

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Version de production téléchargeable

Opérations de transformation: Quantification FP8, Évaluation et analyse comparative

GPU cible: Matériel choisi dans le configurateur

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger le livrable

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8transformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 70 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA H200 SXM 141GB

Nombre de GPU: 2

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible2 × NVIDIA H200 SXM 141GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA H100 SXM 80GB

Nombre de GPU: 2

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible2 × NVIDIA H100 SXM 80GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA H100 PCIe 80GB

Nombre de GPU: 2

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible2 × NVIDIA H100 PCIe 80GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA A100 SXM 80GB

Nombre de GPU: 2

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible2 × NVIDIA A100 SXM 80GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA L40S 48GB

Nombre de GPU: 4

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible4 × NVIDIA L40S 48GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Prêt pour l’ingénierie

Package de production FP8 pour Mistral Small 4 119B A6B - Production hébergée sur GPU cible

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Production hébergée sur GPU cible

Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative

GPU cible: NVIDIA L4 24GB

Nombre de GPU: 7

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger et héberger

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

fp8GPU cible7 × NVIDIA L4 24GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 76 160
Ingénierie ponctuelle

Conception validée

Package de distillation pour Mistral Small 4 119B A6B - Distillation avec préservation de la qualité

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Distillation avec préservation de la qualité

Opérations de transformation: Distillation, Évaluation et analyse comparative

GPU cible: Matériel choisi dans le configurateur

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger le livrable

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

DistillationPréservation de la qualitétransformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 150 535
Ingénierie ponctuelle

Conception validée

Package de distillation pour Mistral Small 4 119B A6B - Distillation optimisée pour le débit

Mistral · Mistral Small 4 119B A6B

Profil du paquet: Distillation optimisée pour le débit

Opérations de transformation: Distillation, Évaluation et analyse comparative

GPU cible: Matériel choisi dans le configurateur

Préparation de l’environnement d’exécution: transformers

Livraison configurée: Télécharger le livrable

Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger

DistillationDébit optimisétransformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger

USD 150 535
Ingénierie ponctuelle