Passer au contenu principal
Chapitres du guide d’entraînement Toute la documentation

Choisir un environnement d’exécution et exporter votre modèle

Exécutez l’entraînement sur des GPU gérés, dans votre centre de données ou dans un environnement Colab compatible ; comprenez précisément ce qui est livré.

Chapitres du guide d’entraînement

Les commandes et le code restent en anglais dans toutes les langues. Remplacez les espaces réservés en majuscules par les valeurs de votre compte et de votre tâche payante ; ne collez pas de vraies clés dans des carnets ou des journaux partagés.

Choisir où entraîner

Le même SDK se connecte depuis chaque environnement pris en charge ; choisir son nom ne crée pas de matériel.
  1. Hébergement géré Environnement GPU FusionPointAI convenu
  2. Votre centre de données GPU et stockage sous le contrôle du client
  3. Colab Environnement compatible avec Colab
  4. Artefact local Exporter et valider avant l’inférence

Choisir un environnement sous votre contrôle

TrainingProject accepte fusionpointai_hosting, customer_datacenter ou colab comme identifiants d’environnement. Cet identifiant ne crée pas d’instance GPU, ne fournit pas de capacité notebook et ne garantit pas la compatibilité du matériel. Installez des dépendances compatibles, protégez la clé et vérifiez le stockage durable là où s’exécute l’entraînement local.

  • Les sessions notebook peuvent s’arrêter et le stockage peut être temporaire.
  • L’accès au modèle de référence nécessite une connexion réseau ; l’entraînement local s’exécute dans l’environnement choisi.
  • La capacité de calcul et l’accès au modèle de référence sont indépendants.
Exemple · text 
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
Exemple · bash 
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
Exemple · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Exemple · python 
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

Examiner l’artefact local du projet

Une exécution TrainingProject écrit les fichiers du modèle ou de l’adaptateur, les ressources du tokenizer, les rapports d’entraînement et d’évaluation, les métadonnées d’exécution et un manifeste dans son propre répertoire de sortie. Un export d’adaptateur nécessite le modèle de base exact et son tokenizer. L’export valide les fichiers locaux ; il ne téléverse pas l’archive du modèle ni un paquet de déploiement vers l’API.

  • Vérifiez dans le manifeste les chemins, les tailles et les valeurs SHA-256.
  • Conservez ensemble les révisions du modèle et du tokenizer.
  • N’incluez jamais de clés API, de secrets de données ni de fichiers sans rapport avec la livraison.
Exemple · bash 
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

Utiliser le modèle exporté indépendamment

Chargez le modèle ou l’adaptateur exporté dans un environnement d’inférence compatible et effectuez les contrôles d’acceptation avant de le proposer aux utilisateurs. Une fois le modèle étudiant déployé indépendamment, l’inférence normale n’a pas besoin d’appeler le modèle de référence. L’export valide les fichiers locaux et écrit des manifestes de reproductibilité ; il ne déploie pas le modèle et ne garantit pas que tous les formats fonctionnent sur tous les appareils.

  • Au déploiement, vérifiez à nouveau la compatibilité du tokenizer, la précision et la mémoire.
  • Conservez un artefact de retour arrière avec son rapport d’évaluation.
  • Ne remplacez pas un modèle en service avant que son successeur ait réussi les contrôles d’acceptation.