Passer au contenu principal
Chapitres du guide d’entraînement Toute la documentation

Choisir une référence et un modèle entraînable

Faites correspondre l’accès fournisseur, l’architecture du modèle à entraîner, la révision du point de contrôle et la méthode d’entraînement.

Chapitres du guide d’entraînement

Les commandes et le code restent en anglais dans toutes les langues. Remplacez les espaces réservés en majuscules par les valeurs de votre compte et de votre tâche payante ; ne collez pas de vraies clés dans des carnets ou des journaux partagés.

Vérifications de compatibilité des modèles

Vérifiez la compatibilité avant d’allouer des ressources à un entraînement coûteux.
  1. Accès aux références Offre fournisseur et modèle de référence disponible
  2. Modèle entraînable Architecture et poids épinglés
  3. Méthode SFT ou entraînement d’adaptateur compatible
  4. Environnement d’exécution Précision, mémoire et dépendances

Choisir dans votre offre fournisseur

Utilisez les identifiants de référence du catalogue actif et les informations d’accès de votre tâche. La session accepte un reference_model_id facultatif provenant du même fournisseur payant et du même produit source. Le modèle entraînable acheté et la facture restent inchangés. Dès que la préparation a généré des données ou lancé des tentatives, la référence ne peut plus être modifiée dans cette session ; ne mélangez pas les données du modèle de référence sans le signaler.

  • La référence doit rester disponible et compatible avec la méthode achetée et le modèle entraînable.
  • Les restrictions réservant l’accès aux clients existants restent en vigueur.
  • Le nom affiché d’un modèle n’est pas nécessairement son identifiant API.
Exemple · python 
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
    os.environ["FUSIONPOINTAI_JOB_UUID"],
    runtime="customer_datacenter",
    reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])

Charger un modèle étudiant local épinglé

TrainingProject accepte un chemin de modèle local existant via l’adaptateur enregistré Transformers pour modèles de langage causal. Le code distant est désactivé au chargement des fichiers. Avant l’entraînement, la compatibilité de l’architecture, du tokenizer, de la longueur de contexte, de la précision et de la mémoire disponible est vérifiée pour la méthode choisie. Un identifiant de dépôt doit correspondre à une révision épinglée dans la racine du projet.

  • SFT met à jour les paramètres admissibles ; LoRA et QLoRA entraînent des adaptateurs.
  • Le tokenizer et la configuration du modèle doivent accompagner les poids locaux.
  • Un modèle API réservé à l’inférence n’est pas un point de contrôle étudiant entraînable.
Exemple · python 
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
Exemple · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.

Vérifier la compatibilité de l’adaptateur et de l’environnement

L’adaptateur Transformers pour modèles de langage causal vérifie la combinaison réelle du modèle, de la méthode, de la précision, du matériel, de la distribution et du format d’export. Il ne prend pas en charge toutes les architectures ni toutes les configurations GPU. Les combinaisons non prises en charge échouent aux contrôles de compatibilité ; aucune capacité n’est déduite d’une simple étiquette de configuration.

  • Utilisez une disposition de modèle que l’adaptateur Transformers peut charger sans code distant.
  • QLoRA nécessite CUDA et bitsandbytes compatibles.
  • Un contrôle de compatibilité n’est ni un benchmark ni une garantie d’inférence réussie dans un autre environnement.