メインコンテンツへスキップ
学習ガイドの章 すべてのドキュメント

実行環境を選び、モデルをエクスポートする

マネージド GPU、データセンター、互換性のあるノートブックで実行し、提供される内容を正確に確認します。

どの言語版でもコマンドとコードは英語のままです。大文字のプレースホルダーは、ご自身のアカウントと有料ジョブの値に置き換えてください。共有ノートブックやログに実際のキーを貼り付けないでください。

学習場所を選ぶ

同じ SDK から各対応実行環境に接続できます。名前を選んでもハードウェアは作成されません。
  1. マネージドホスティング 合意済みの FusionPointAI GPU 環境
  2. お客様のデータセンター 顧客が管理する GPU とストレージ
  3. ノートブック Colab 互換の実行環境
  4. ローカル成果物 推論の前にエクスポートして検証

マネージドホスティング: 合意済みの FusionPointAI GPU 環境. お客様のデータセンター: 顧客が管理する GPU とストレージ. ノートブック: Colab 互換の実行環境. ローカル成果物: 推論の前にエクスポートして検証

管理できる実行環境を選ぶ

TrainingProject は実行環境 ID として fusionpointai_hosting、customer_datacenter、colab を受け付けます。この ID を指定しても GPU インスタンスやノートブックの利用枠は用意されず、デバイス互換性も保証されません。互換性のある依存関係をインストールし、キーを保護したうえで、モデルをローカル学習する環境の永続ストレージを確認してください。

  • ノートブックのセッションは終了することがあり、ストレージも一時的な場合があります。
  • 教師 API の利用にはネットワーク接続が必要です。ローカル学習は選択した実行環境で行います。
  • 計算リソースと参照モデルへのアクセスは別のサービスです。
例 · text
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
例 · bash
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
例 · python
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
例 · python
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

ローカルのプロジェクト成果物を確認する

プロジェクト run は、run が所有する出力ディレクトリにモデルまたはアダプターのファイル、トークナイザー関連ファイル、学習・評価レポート、run メタデータ、成果物マニフェストを書き込みます。アダプターのエクスポートには、完全に一致するベースモデルとトークナイザーが必要です。エクスポートしたローカルモデルのアーカイブやデプロイ用パッケージが API にアップロードされることはありません。

  • マニフェストで成果物のパス、ファイルサイズ、SHA-256 を確認します。
  • モデルとトークナイザーのリビジョンをセットで保管します。
  • 納品物には API キー、データセットの秘密情報、関係のないファイルを含めないでください。
例 · bash
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

エクスポートしたモデルを単独で使う

エクスポートしたモデルまたはアダプターを対応する推論実行環境に読み込み、ユーザーに提供する前にタスクの受け入れ確認を行います。生徒モデルを単独でデプロイした後は、通常の推論で教師モデルを呼び出す必要はありません。エクスポート時にローカルファイルを検証して再現性マニフェストを作成しますが、モデルのデプロイや、すべての形式がすべてのデバイスで動作することを保証するものではありません。

  • デプロイ時にトークナイザーの互換性、精度、メモリを再確認します。
  • ロールバック用の成果物と評価レポートを保管します。
  • 置き換えるモデルが受け入れ基準を満たす前に、稼働中のモデルを上書きしないでください。