Yi / Yi 1.5 34B

Quantification BF16 pour Yi 1.5 34B

Le profil publié est indicatif ; les mesures techniques sont réalisées pour le modèle et le matériel sélectionnés.

Avant → Après

Version de basePoint de contrôle vérifié
34.000B

QuantificationBF16
Objectif de préservation de la qualité

Artefact de productionArtefact
Rapport de traçabilité du modèle et de performances

Poids et cache KV

Estimation jusqu’aux mesures d’ingénierie

VRAM estimée

Les résultats mesurés et certifiés sont livrés avec le projet.

Préparation de l’environnement d’exécution

transformers

Non disponible à la commande