Passer au contenu principal

Mistral · Modèle généraliste de taille intermédiaire · Mistral Medium 3.5

Mistral Medium 3.5 128B : caractéristiques, besoins GPU, hébergement et déploiement

Mistral Medium 3.5 128B est une version Actuel de la branche Modèle généraliste de taille intermédiaire de Mistral, certifiée depuis sa révision officielle.

Illustration technique de déploiement pour Mistral Medium 3.5 128B
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux128,0B
Paramètres actifsModèle dense
Fenêtre de contexte262 144 tokens
Statut de la versionActuel · Actuel
Architecture du modèleMistral3ForConditionalGeneration
ModalitésTexte
LicenceLicence MIT modifiée
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé sous conditions
Date de sortie2026-03-31

Architecture, points forts et usages

Mistral Medium 3.5 128B est une version officielle auto-hébergeable de Mistral AI dans la branche Mistral Modèle généraliste de taille intermédiaire. Elle utilise Mistral3ForConditionalGeneration avec 128B et un contexte vérifié de 262,144 tokens.

Mistral Medium 3.5 128B utilise Mistral3ForConditionalGeneration avec 128B. Le profil vérifié indique 88 couches, une largeur cachée de 12288 et 96 têtes d’attention lorsque ces valeurs sont publiées.

Architecture Mistral3ForConditionalGeneration vérifiée
Contexte certifié de 262,144 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

Mistral-Medium-3.5-128B

mistralai/Mistral-Medium-3.5-128B

Officiel · FP8 · safetensors

Environnement d’exécution certifié: Transformers vLLM SGLang

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
FP8safetensors8OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids122.79 GB
Cache KV1.38 GB
Surcharge de l’environnement d’exécution40.47 GB
Total avec marge de sécurité204.15 GB

Meilleur rapport qualité-prix

2× NVIDIA H200 SXM 141GB

282 GB VRAM totale · nvswitch

77.85 GB de marge · Capacité limitée

USD 4 690 / mois

Option viable la moins chère

2× NVIDIA H200 SXM 141GB

282 GB VRAM totale · nvswitch

77.85 GB de marge · Capacité limitée

USD 4 690 / mois

Performances maximales

2× NVIDIA H200 SXM 141GB

282 GB VRAM totale · nvswitch

77.85 GB de marge · Capacité limitée

USD 4 690 / mois

Licence et considérations d’auto-hébergement

Les 128 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

Mistral Medium 3.5 128B est publié sous Licence MIT modifiée. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé sous conditions. L’usage commercial est soumis à conditions. Consultez les conditions officielles indiquées avant tout déploiement.

Alternatives et variantes associées

Mistral-Medium-3.5-128B, Mistral-Medium-3.5-128B-NVFP4, Mistral-Medium-3.5-128B-EAGLE

Chronologie des versions

mistral-ai/mistral/mistral-medium-3-5-128b @ bd6dc6b9d18a72d3a09e68492438a99b4c0bc8ced688686458f2e9e2116d5a87

Source officielle

Questions fréquentes

Quelle VRAM faut-il pour Mistral Medium 3.5 128B ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge Mistral Medium 3.5 128B ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers, vllm, sglang.

Mistral Medium 3.5 128B peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé sous conditions. Consultez les conditions officielles de Licence MIT modifiée.

Références officielles

Dernière vérification: 2026-08-26