Перейти к основному содержимому
Главы руководства по обучению Вся документация

Выберите среду выполнения и экспортируйте модель

Работайте на управляемых GPU, в своем центре обработки данных или в совместимом ноутбуке и точно понимайте, что передается в результате.

Главы руководства по обучению

Команды и код во всех языковых версиях остаются на английском. Заменяйте ЗАГЛАВНЫЕ заполнители значениями своей учетной записи и оплаченного задания. Не вставляйте реальные ключи в общие ноутбуки или журналы.

Выберите место для обучения

Один и тот же SDK подключается из любой поддерживаемой среды выполнения; выбор ее названия не создает оборудование.
  1. Управляемый хостинг Согласованная GPU-среда FusionPointAI
  2. Ваш центр обработки данных GPU и хранилище под контролем клиента
  3. Ноутбук Совместимая среда, например Colab
  4. Локальный артефакт Экспортировать и проверить до вывода

Выберите среду выполнения под вашим контролем

TrainingProject принимает fusionpointai_hosting, customer_datacenter или colab как идентификатор среды. Сам идентификатор не создает экземпляр GPU и не выделяет вычислительные ресурсы. Установите совместимые зависимости, защитите ключ и проверьте свободное место в выбранной среде.

  • Сессии ноутбуков могут завершиться, а их хранилище может быть временным.
  • Для запросов к модели-учителю нужен сетевой доступ; локальные данные обучения и веса остаются в выбранной среде.
  • Расходы на GPU и доступ к референсной модели оплачиваются отдельно.
Пример · text 
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
Пример · bash 
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
Пример · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Пример · python 
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

Проверьте локальный артефакт проекта

Запуск проекта сохраняет файлы модели или адаптера, токенизатор, отчеты об обучении и оценке, метаданные запуска и манифест артефакта в принадлежащем ему каталоге. В манифесте указаны безопасные относительные пути, размеры и значения SHA-256. Для адаптера по-прежнему нужны точная закрепленная базовая модель и токенизатор.

  • Сверьте манифест и хеши с фактическими локальными файлами.
  • Экспорт проверяет и упаковывает локальные файлы; он не загружает модель в сервис.
  • Не включайте в артефакт ключи API, конфиденциальные данные или посторонние файлы.
Пример · bash 
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

Используйте экспортированную модель отдельно

Загрузите экспортированную модель или адаптер в совместимую среду инференса и проверьте критерии задач до использования. Для обычного инференса самостоятельно развернутой модели-ученика обращаться к учителю не требуется. Экспорт проверяет локальную модель или адаптер и создает манифест; он не загружает модель в сервис и не развертывает ее автоматически.

  • Проверьте совместимость токенизатора, точность и требования к памяти в целевой среде.
  • Сохраните резервный артефакт и отчет об оценке для отката.
  • Не заменяйте действующую модель, пока новая не пройдет приемку.