Zum Hauptinhalt springen
Kapitel des Trainingsleitfadens Alle Dokumentationen

Training ausführen und Steuerelemente verstehen

Tatsächliche Gewichtsaktualisierungen, unterstützte Methoden, serverseitig maßgebliche Einstellungen und Fortschrittsmeldungen.

Befehle und Code bleiben in allen Sprachen auf Englisch. Ersetzen Sie GROSSGESCHRIEBENE Platzhalter durch Werte Ihres eigenen Kontos und bezahlten Auftrags. Fügen Sie echte Schlüssel nicht in gemeinsam genutzte Notebooks oder Protokolle ein.

Ein tatsächlicher Optimierungsschritt

Allein das Erzeugen einer Antwort durch ein Teacher-Modell verändert das Student-Modell nicht.
  1. Datenpaket Genehmigte Beispiele tokenisieren
  2. Vorhersage Forward-Pass des Student-Modells ausführen
  3. Verlust Trainingsfehler messen
  4. Optimierung Gradienten berechnen und Parameter aktualisieren
  5. Checkpoint Resultierendes Modell oder Adapter speichern

Datenpaket: Genehmigte Beispiele tokenisieren. Vorhersage: Forward-Pass des Student-Modells ausführen. Verlust: Trainingsfehler messen. Optimierung: Gradienten berechnen und Parameter aktualisieren. Checkpoint: Resultierendes Modell oder Adapter speichern

Unterstützte Trainingsmethode wählen

SFT ist überwachte Feinabstimmung. LoRA trainiert Parameter eines Low-Rank-Adapters. QLoRA kombiniert Adaptertraining mit einer kompatibel quantisierten Basismodelldatei. Der Transformers-Adapter für kausale Sprachmodelle prüft das gewählte Modell, die Methode und die Laufzeit; nicht jede Architektur und jedes Gerät wird unterstützt. Die gradientenbasierte Optimierung verändert die Student-Gewichte.

  • Prüfen Sie vor dem Training Lernrate, Sequenzlänge, Batch-Größe und Gradientenakkumulation.
  • Unterstützte Methoden sind SFT, LoRA und QLoRA; Automatic kann auto auswählen.
  • Ein Adapterpaket benötigt das passende festgelegte Basismodell und den Tokenizer.
Beispiel · text
Project methods: SFT | LoRA | QLoRA (Automatic mode may resolve auto).
Evaluation metrics: exact_match | macro_f1 | text_similarity | chrf.
Custom scorers require register_evaluator(name, scorer, version=...).
Model, tokenizer, device memory, precision and export must be compatible.
Teacher requests and local run time/storage are bounded by project budgets.
Validation and final-test JSONL are evaluated locally and are not shared.
Read the reviewed plan and compatibility result before starting a run.

Eigenen Projektlauf ausführen

TrainingProject prüft das Projekt, holt bei Bedarf die bezahlte Teacher-Berechtigung ein, bereitet lokale Daten vor, misst die Baseline, führt echte Optimierung und Evaluation anhand zurückgehaltener Kriterien aus und speichert Berichte und Manifeste. Lokal trainiert wird in der konfigurierten Laufzeitumgebung. Ein erfolgreicher Lauf richtet sich nach Messwerten und den festgelegten Abbruchbedingungen.

  • Keine erfundenen Messwerte oder Abschlussberichte übermitteln.
  • Prozess, lokalen Speicher und nötige Verbindung zur Teacher-API verfügbar halten.
  • Bei Fehlern bei Berichterstattung oder Bereinigung lokale Ausgaben sichern und zuerst den Laufstatus prüfen.
Beispiel · python
# Continue with project from TrainingProject.from_file(...).
result = project.run()
print(result["status"], result["stop_reason"], result["unmet_criteria"])
# TrainingProject performs real local optimization and records its run report.
Beispiel · python
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
session = client.get_session(os.environ["FUSIONPOINTAI_SESSION_ID"])
report = session.get("report")
last_event = report.get("last_event", {}) if isinstance(report, dict) else {}
print("State:", session["status"], "Step:", session["step"])
print("Last reported error code:", last_event.get("error_code"))
# A missing error_code does not prove success. Read state and your local report.
# Do not dump full provider responses, private data or authorization headers.

Automatic- und Advanced-Modus

Automatic löst kompatible Trainingseinstellungen aus Projekt und Laufzeitumgebung auf. Advanced akzeptiert ausdrücklich angegebene unterstützte Einstellungen für denselben Transformers-Trainings-Backend. Beide Modi optimieren lokal, dokumentieren die Herkunft und halten endliche Zeit-, Teacher-Anfrage- und Speicherbudgets ein. Kompatibilität von Hardware und Modell bleibt Voraussetzung.

  • Konfigurationsmodi sind automatic und advanced; Methoden sind SFT, LoRA oder QLoRA, wobei Automatic auto auflöst.
  • Der Themenfortschritt richtet sich nach gemessenen Bewertungswerten und Abbruchbedingungen.
  • Kein Modus garantiert Benchmarkwerte oder bestimmte Inferenzfähigkeiten.