Zum Hauptinhalt springen
Kapitel des Trainingsleitfadens Alle Dokumentationen

Laufzeitumgebung wählen und Modell exportieren

Auf verwalteten GPUs, im eigenen Rechenzentrum oder in einem kompatiblen Notebook trainieren und genau verstehen, was geliefert wird.

Kapitel des Trainingsleitfadens

Befehle und Code bleiben in allen Sprachen auf Englisch. Ersetzen Sie GROSSGESCHRIEBENE Platzhalter durch Werte Ihres eigenen Kontos und bezahlten Auftrags. Fügen Sie echte Schlüssel nicht in gemeinsam genutzte Notebooks oder Protokolle ein.

Trainingsort wählen

Dasselbe SDK verbindet sich aus jeder unterstützten Laufzeitumgebung; die Auswahl eines Namens erstellt keine Hardware.
  1. Verwaltetes Hosting Vereinbarte FusionPointAI-GPU-Umgebung
  2. Ihr Rechenzentrum Vom Kunden kontrollierte GPU und Speicher
  3. Notebook Kompatible Colab-ähnliche Laufzeitumgebung
  4. Lokales Artefakt Vor der Inferenz exportieren und validieren

Eine kontrollierte Laufzeitumgebung wählen

TrainingProject akzeptiert fusionpointai_hosting, customer_datacenter oder colab als Laufzeitkennung. Die Kennung erstellt keine GPU-Instanz und weist keine Rechenressourcen zu. Installieren Sie kompatible Abhängigkeiten, schützen Sie den Schlüssel und prüfen Sie den verfügbaren Speicher in der gewählten Umgebung.

  • Notebook-Sitzungen können enden und ihr Speicher kann temporär sein.
  • Für Teacher-Anfragen wird Netzwerkzugriff benötigt; lokale Trainingsdaten und Gewichte bleiben in der ausgewählten Laufzeit.
  • GPU-Rechenkosten und Zugriff auf den Referenzmodelldienst sind getrennte Kosten.
Beispiel · text 
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
Beispiel · bash 
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
Beispiel · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Beispiel · python 
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

Lokales Projektartefakt prüfen

Ein Projektlauf speichert Modell- oder Adapterdateien, Tokenizer, Trainings- und Evaluationsberichte, Laufmetadaten und ein Artefaktmanifest im eigenen Laufverzeichnis. Das Manifest enthält sichere relative Pfade, Größen und SHA-256-Werte. Ein Adapter benötigt weiterhin genau das festgelegte Basismodell und den passenden Tokenizer.

  • Prüfen Sie Manifest und Hashes anhand der tatsächlichen lokalen Dateien.
  • Der Export validiert und verpackt Dateien lokal; er lädt das Modell nicht hoch.
  • API-Schlüssel, vertrauliche Datensätze und fremde Dateien gehören nicht in ein Artefakt.
Beispiel · bash 
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

Exportiertes Modell eigenständig verwenden

Laden Sie das exportierte Modell oder den Adapter in eine kompatible Inferenzlaufzeit und prüfen Sie die Aufgabenabnahme, bevor Sie es einsetzen. Für normale Inferenz ist nach der eigenständigen Bereitstellung des Student-Modells kein Teacher-Aufruf erforderlich. Der Export prüft lokale Modell- oder Adapterdateien und erstellt ein Manifest; er lädt das Modell nicht hoch und stellt es nicht automatisch bereit.

  • Prüfen Sie in der Zielumgebung erneut Tokenizer-Kompatibilität, Genauigkeit und Speicherbedarf.
  • Bewahren Sie für ein Rollback ein Artefakt und dessen Evaluationsbericht auf.
  • Ersetzen Sie kein funktionierendes Modell, bevor der Ersatz die Abnahme bestanden hat.