Zum Hauptinhalt springen
Kapitel des Trainingsleitfadens Alle Dokumentationen

Tutorials zum Modelltraining und vollständige Beispiele

Ausgearbeitete SDK-Beispiele für Deutsch, Klassifikation, Übersetzung, private Daten, Hosting, Colab, mehrere GPUs und Export.

Befehle und Code bleiben in allen Sprachen auf Englisch. Ersetzen Sie GROSSGESCHRIEBENE Platzhalter durch Werte Ihres eigenen Kontos und bezahlten Auftrags. Fügen Sie echte Schlüssel nicht in gemeinsam genutzte Notebooks oder Protokolle ein.

Ein vollständiges Trainingsrezept erstellen

Ein brauchbares Beispiel umfasst Daten, Rechenleistung und Abnahme, nicht nur einen Prompt.
  1. Aufgabe Sprach- oder Geschäftsanforderung
  2. Eingaben Training, Validierung und versteckter Test
  3. Laufzeit Kompatible Rechenleistung und Speicher
  4. Ergebnisse Erfüllte Kriterien und gültige Ausgabe

Aufgabe: Sprach- oder Geschäftsanforderung. Eingaben: Training, Validierung und versteckter Test. Laufzeit: Kompatible Rechenleistung und Speicher. Ergebnisse: Erfüllte Kriterien und gültige Ausgabe

Ein eigenständiges Modell für Deutsch trainieren

Beginne mit der vollständigen Konfiguration für automatisches Training im Konfigurationskapitel. Lege ein Projektverzeichnis mit einem kompatiblen Schülermodell, geprüften Trainingsmaterialien, unabhängigen Validierungs- und Testdaten sowie dem deutschen Bewertungsraster an. Wähle ein Referenzmodell aus deinem Vertrag mit dem Anbieter. Das SDK sollte Voraussetzungen und Themen vorschlagen, einen Ausgangswert ermitteln und sich innerhalb der freigegebenen Budgets verbessern.

  • Das JSON unten veranschaulicht das Datenformat auf Englisch. Verwende in den echten Datendateien jeweils ein Objekt pro Zeile mit deinen tatsächlich geprüften deutschen Texten.
  • Verwende als ausführbare Projektdatei die vollständige Konfiguration für automatisches Training, keinen unvollständigen Rezeptausschnitt.
  • Miss Verständnis, Schreiben, Übersetzung und Schlussfolgern unabhängig voneinander. Es ist nicht garantiert, dass ein kleines Schülermodell bei jeder Aufgabe das Niveau seines Lehrmodells erreicht.
Beispiel · jsonl
{"text":"Customer: My invoice total is incorrect. Category: billing"}
{"text":"Customer: I cannot sign in. Category: account_access"}
{"text":"Customer: The application closes when I upload a file. Category: technical_issue"}
Beispiel · bash
# Full Automatic German-language workflow.
# 1. Put a compatible local model in german-project/models/student/.
# 2. Save the complete project configuration as german-project/training.json.
# 3. Add independent train/validation/test files and the reviewed german rubric.
# 4. Replace provider/reference placeholders using your included model catalogue.
fpai-training doctor --config ./german-project/training.json
fpai-training plan --config ./german-project/training.json --dry-run
# The plan must break the objective into prerequisites and measurable topics.
fpai-training run --config ./german-project/training.json
fpai-training evaluate --run ./german-project/runs/german-001 --split test
fpai-training export --run ./german-project/runs/german-001 --format safetensors
# Evaluate comprehension, writing, translation and reasoning separately.
# A passed classifier does not prove all German-language capabilities.

Projekt auf eine geschäftliche Aufgabe zuschneiden

Die folgenden JSON-Beispiele sind Konfigurationsausschnitte, keine vollständigen Projektdateien. Kopiere die vollständige Konfiguration für automatisches oder erweitertes Training, ersetze die benannten Abschnitte durch den Ausschnitt, behalte Identität, Modell, Lehrmodell, Laufzeitumgebung und begrenzte Budgets bei und validiere anschließend die gesamte Datei. Für Klassifikation und Übersetzung werden unterschiedliche Themen, Daten und Abnahmekriterien benötigt.

  • Bei der Klassifikation von Supportanfragen Präzision und Trefferquote pro Klasse, Macro-F1, Klassenverteilung und mehrdeutige Fälle ausweisen.
  • Übersetzungen anhand unabhängiger zweisprachiger Beispiele auf Bedeutung, Terminologie, Namen, Zahlen und Ton prüfen.
  • Bei teacher_sharing: none bleiben Kundendaten lokal. Lässt sich das Ziel ohne unzulässige Freigabe nicht erreichen, mit einer Erklärung abbrechen, statt die Daten hochzuladen.
Beispiel · json
{
  "schema_version": "1.0", "mode": "automatic",
  "objective": "Classify support messages into billing, account_access or technical_issue.",
  "model": {"path": "./models/student", "adapter": "transformers-causal-lm", "revision": null},
  "teacher": {"provider": "openai", "reference_model_id": 123},
  "data": {"sources": ["./data/train.jsonl"], "teacher_sharing": "none", "validation_path": "./data/validation.jsonl", "test_path": "./data/test.jsonl", "deduplicate": true, "seed": 42},
  "runtime": {"target": "customer_datacenter", "devices": "auto", "distributed": {"backend": "none", "nodes": 1}},
  "training": {"method": "auto"},
  "curriculum": {"topics": ["intent", "ambiguous_requests", "class_balance"], "max_improvement_cycles": 3, "stop_on_regression": true},
  "budgets": {"max_training_minutes": 120, "max_teacher_requests": 100, "max_storage_gib": 20},
  "checkpoints": {"every_steps": 100, "keep_last": 3, "resume_validation": "strict"},
  "evaluation": {"rubric": "./rubric.json", "baseline_required": true},
  "output": {"directory": "./runs/support-001", "format": "adapters"}
}
Beispiel · json
{
  "objective": "Translate English support replies into German while preserving names, numbers and meaning.",
  "curriculum": {"topics": ["terminology", "meaning", "names_and_numbers", "tone"], "max_improvement_cycles": 3, "stop_on_regression": true},
  "evaluation": {"rubric": "./rubrics/translation.json", "baseline_required": true},
  "data": {"sources": ["./data/translation-train.jsonl"], "validation_path": "./data/translation-validation.jsonl", "test_path": "./data/translation-test.jsonl", "teacher_sharing": "approved_only"},
  "output": {"directory": "./runs/translation-001", "format": "safetensors"}
}
Beispiel · jsonl
{"prompt":"My invoice total is wrong. Which category applies?","target":"billing","criterion":"support_category"}
{"prompt":"I cannot sign in. Which category applies?","target":"account_access","criterion":"support_category"}
Beispiel · json
{
  "schema_version": "1.0",
  "name": "support-category-evaluation",
  "scale": {"minimum": 0, "maximum": 1},
  "criteria": [
    {"id": "support_category", "description": "Match the expected category.", "metric": "macro_f1", "minimum_score": 0.85}
  ],
  "regression": {"maximum_score_drop": 0.02},
  "final_test": {"path": "./data/test.jsonl", "allow_training_use": false}
}

Passende Infrastruktur wählen und sicher Ergebnisse bereitstellen

Auch die folgenden Laufzeitbeispiele sind Ausschnitte für eine vollständige, geprüfte Konfiguration. FusionPointAI Hosting, ein Kundenrechenzentrum und eine kompatible Colab-Laufzeit stellen Rechenleistung bereit. Die Auswahl eines Namens weist keine GPUs zu, kauft keine Notebook-Credits und macht keine andere Laufzeit kompatibel. Das SDK lädt und trainiert das Schülermodell in dieser Laufzeit. Speichere Ausgaben, bevor ein kurzlebiges Notebook endet.

  • Gehostetes Beispiel: Verwende die vertraglich vereinbarte Rechenumgebung, den freigegebenen Speicher und die Berechtigung des Kontos. Hosting ist gegebenenfalls eine separate kommerzielle Leistung.
  • Colab-Beispiel: Hinterlege den API-Schlüssel in den Notebook-Secrets, prüfe verfügbare GPUs und Speicher und kopiere gültige Checkpoints vor dem Ende in einen freigegebenen dauerhaften Speicher.
  • Verteiltes Beispiel: Verwende einen autorisierten Koordinator und authentifizierte Node-Kommunikation mit übereinstimmenden, festgelegten Umgebungen sowie abgestimmten Rendezvous- und Rank-Werten. Der Launcher darf nur die Worker dieses Projekts steuern.
Beispiel · json
{
  "runtime": {"target": "fusionpointai_hosting", "devices": "auto", "distributed": {"backend": "none", "nodes": 1}},
  "budgets": {"max_training_minutes": 60, "max_teacher_requests": 500, "max_storage_gib": 20},
  "output": {"directory": "./runs/hosted-001", "format": "safetensors"}
}
Beispiel · json
{
  "runtime": {"target": "colab", "devices": [0], "distributed": {"backend": "none", "nodes": 1}},
  "checkpoints": {"every_steps": 50, "keep_last": 2, "resume_validation": "strict"},
  "budgets": {"max_training_minutes": 30, "max_teacher_requests": 100, "max_storage_gib": 10},
  "output": {"directory": "./runs/colab-001", "format": "adapters"}
}
Beispiel · json
{
  "runtime": {"target": "customer_datacenter", "devices": [0, 1], "distributed": {"backend": "ddp", "nodes": 2}},
  "checkpoints": {"every_steps": 100, "keep_last": 3, "resume_validation": "strict"},
  "output": {"directory": "./runs/distributed-001", "format": "safetensors"}
}
Beispiel · bash
# Export a validated adapter or full model, not teacher weights.
fpai-training evaluate --run ./german-project/runs/support-001 --split test
fpai-training export --run ./german-project/runs/support-001 --format adapters
# Inspect artifact-manifest.json, pinned base/tokenizer and evaluation-report.json.
# Reload the package in a fresh compatible runtime before changing live inference.
# Export does not deploy, allocate hosting, or upload to an external model hub.