État technique de transformation
Transformation prise en charge
Version publique à poids ouverts, vérifiée et étayée par des preuves de points de contrôle faisant autorité.
GLM / GLM-5
Options de transformation pour GLM-5
Validé pour chaque version à partir des données du registre, des composants tarifaires et de la compatibilité avec l’environnement d’exécution.
Architecture
GlmMoeDsaForCausalLM
Paramètres : 744,00B · Fenêtre de contexte : 202 752
Transformations prises en charge
Quantification
Validé par version
Préparation de l’environnement d’exécution
Validé par version
Hébergement géré
Validé par version
Distillation
Validé par version
Sélection du GPU
Validé par version
Évaluation et analyse comparative
Validé par version
Télécharger le livrable
Validé par version
Quantification
BF16
La précision, la mémoire, le contexte et la compatibilité avec l’environnement d’exécution sont évalués à partir des données de la version avant qu’une commande soit disponible.
FP8
La précision, la mémoire, le contexte et la compatibilité avec l’environnement d’exécution sont évalués à partir des données de la version avant qu’une commande soit disponible.
Packages publiés
Prêt pour l’ingénierie
Package de production FP8 pour GLM-5 - Version de production téléchargeable
GLM · GLM-5
Profil du paquet: Version de production téléchargeable
Opérations de transformation: Quantification FP8, Évaluation et analyse comparative
GPU cible: Matériel choisi dans le configurateur
Préparation de l’environnement d’exécution: transformers
Livraison configurée: Télécharger le livrable
Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger
fp8transformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger
USD 106 700
Ingénierie ponctuelle
Prêt pour l’ingénierie
Package de production FP8 pour GLM-5 - Production hébergée sur GPU cible
GLM · GLM-5
Profil du paquet: Production hébergée sur GPU cible
Opérations de transformation: Quantification FP8, Préparation de l’environnement d’exécution, Évaluation et analyse comparative
GPU cible: NVIDIA H200 SXM 141GB
Nombre de GPU: 7
Préparation de l’environnement d’exécution: transformers
Livraison configurée: Télécharger et héberger
Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger
fp8GPU cible7 × NVIDIA H200 SXM 141GBtransformersEnvironnement d’exécution optimisé Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger
USD 112 700
Ingénierie ponctuelle
Conception validée
Package de distillation pour GLM-5 - Distillation avec préservation de la qualité
GLM · GLM-5
Profil du paquet: Distillation avec préservation de la qualité
Opérations de transformation: Distillation, Évaluation et analyse comparative
GPU cible: Matériel choisi dans le configurateur
Préparation de l’environnement d’exécution: transformers
Livraison configurée: Télécharger le livrable
Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger
DistillationPréservation de la qualitétransformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger
USD 240 363
Ingénierie ponctuelle
Conception validée
Package de distillation pour GLM-5 - Distillation optimisée pour le débit
GLM · GLM-5
Profil du paquet: Distillation optimisée pour le débit
Opérations de transformation: Distillation, Évaluation et analyse comparative
GPU cible: Matériel choisi dans le configurateur
Préparation de l’environnement d’exécution: transformers
Livraison configurée: Télécharger le livrable
Options de livraison: Télécharger le livrable / Héberger avec FusionPointAI / Télécharger et héberger
DistillationDébit optimisétransformers Télécharger le livrableHéberger avec FusionPointAITélécharger et héberger
USD 240 363
Ingénierie ponctuelle