ERNIE / ERNIE 4.5 VL 28B-A3B Thinking
Quantification BF16 pour ERNIE 4.5 VL 28B-A3B Thinking
Le profil publié est indicatif ; les mesures techniques sont réalisées pour le modèle et le matériel sélectionnés.
Avant → Après
Version de basePoint de contrôle vérifié
28.000B
28.000B
QuantificationBF16
Objectif de préservation de la qualité
Objectif de préservation de la qualité
Artefact de productionArtefact
Rapport de traçabilité du modèle et de performances
Rapport de traçabilité du modèle et de performances
Sélection du GPU
Poids et cache KVEstimation jusqu’aux mesures d’ingénierie
VRAM estiméeLes résultats mesurés et certifiés sont livrés avec le projet.
Préparation de l’environnement d’exécutionfastdeploy, transformers, vllm
Tarification transparente
Non disponible à la commande