Befehle und Code bleiben in allen Sprachen auf Englisch. Ersetzen Sie GROSSGESCHRIEBENE Platzhalter durch Werte Ihres eigenen Kontos und bezahlten Auftrags. Fügen Sie echte Schlüssel nicht in gemeinsam genutzte Notebooks oder Protokolle ein.
Kompatibilität der Modelle prüfen
- Referenzzugriff Anbieterplan und verfügbares Teacher-Modell
- Student-Modell Architektur und festgelegte Gewichte
- Methode SFT oder kompatibles Adaptertraining
- Laufzeitumgebung Genauigkeit, Speicher und Abhängigkeiten
Referenzzugriff: Anbieterplan und verfügbares Teacher-Modell. Student-Modell: Architektur und festgelegte Gewichte. Methode: SFT oder kompatibles Adaptertraining. Laufzeitumgebung: Genauigkeit, Speicher und Abhängigkeiten
Auswahl im Rahmen Ihres Anbieterplans
Verwenden Sie Referenz-IDs aus dem aktiven Katalog und die Zugriffsdaten Ihres Auftrags. Die Sitzung akzeptiert optional eine reference_model_id desselben bezahlten Anbieters und Quellprodukts. Das gekaufte Student-Modell und die Rechnung bleiben unverändert. Sobald die Vorbereitung Daten erzeugt oder Versuche begonnen hat, kann die Referenz in dieser Sitzung nicht mehr geändert werden. Vermischen Sie Teacher-Daten nicht unbemerkt.
- Die Referenz muss verfügbar und mit gekaufter Methode und Student-Modell kompatibel bleiben.
- Beschränkungen auf Bestandskunden gelten weiterhin.
- Ein angezeigter Modellname ist nicht zwangsläufig dessen API-Kennung.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])Lokal festgelegtes Student-Modell laden
TrainingProject akzeptiert über den registrierten Transformers-Adapter für kausale Sprachmodelle einen vorhandenen lokalen Modellpfad. Beim Laden bleibt entfernter Modellcode deaktiviert. Architektur, Tokenizer, Kontextlänge, Genauigkeit und verfügbarer Gerätespeicher werden vor dem Training für die ausgewählte Methode geprüft. Eine Repository-Kennung muss innerhalb des Projektverzeichnisses auf eine festgelegte Revision verweisen.
- SFT aktualisiert geeignete Modellparameter; LoRA und QLoRA trainieren Adapter.
- Zu lokalen Gewichten müssen ein kompatibler Tokenizer und eine passende Modellkonfiguration gehören.
- Ein reines Inferenz-API-Modell ist kein trainierbarer Student-Checkpoint.
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.Kompatibilität von Adapter und Laufzeit prüfen
Der registrierte Transformers-Adapter für kausale Sprachmodelle prüft das Zusammenspiel von Modell, Methode, Genauigkeit, Hardware, verteilter Ausführung und Exportformat. Er unterstützt nicht jede Architektur und GPU-Konfiguration. Nicht unterstützte Kombinationen scheitern bei der Kompatibilitätsprüfung; Fähigkeiten werden nicht allein aus einer Konfigurationsangabe abgeleitet.
- Verwenden Sie nur Modellstrukturen, die der Transformers-Adapter ohne entfernten Code laden kann.
- QLoRA erfordert kompatible CUDA- und bitsandbytes-Unterstützung.
- Kompatibilitätsprüfungen sind weder Benchmark noch Garantie für Inferenz in einer anderen Laufzeit.