Saltar para o conteúdo principal
Capítulos do guia de treino Toda a documentação

Escolha um ambiente de execução e exporte o seu modelo

Execute em GPUs geridas, no seu centro de dados ou num ambiente Colab compatível; compreenda exatamente o que será entregue.

Capítulos do guia de treino

Os comandos e o código permanecem em inglês em todos os idiomas. Substitua os marcadores em maiúsculas pelos valores da sua conta e da sua tarefa paga; não cole chaves reais em cadernos partilhados nem em registos.

Escolha onde treinar

O mesmo SDK liga-se a partir de cada ambiente de execução compatível; escolher o respetivo nome não cria hardware.
  1. Alojamento gerido Ambiente GPU FusionPointAI acordado
  2. O seu centro de dados GPU e armazenamento sob controlo do cliente
  3. Colab Ambiente Colab compatível
  4. Artefacto local Exportar e validar antes da inferência

Escolher um ambiente que controla

TrainingProject aceita fusionpointai_hosting, customer_datacenter ou colab como identificadores do ambiente. O identificador não cria uma instância GPU, não disponibiliza capacidade para notebooks nem garante a compatibilidade do dispositivo. Instale dependências compatíveis, proteja a chave e confirme que existe armazenamento persistente no ambiente onde o modelo é treinado localmente.

  • As sessões de notebooks podem terminar e o armazenamento pode ser temporário.
  • O acesso ao modelo de referência requer ligação à rede; o treino local decorre no ambiente selecionado.
  • A capacidade de computação e o acesso ao modelo de referência são independentes.
Exemplo · text 
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
Exemplo · bash 
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
Exemplo · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Exemplo · python 
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

Inspecionar o artefacto local do projeto

Uma execução do projeto grava ficheiros do modelo ou adaptador, recursos do tokenizador, relatórios de treino e avaliação, metadados da execução e um manifesto do artefacto no diretório de saída próprio. As exportações de adaptadores requerem o modelo-base e o tokenizador exatos. A exportação não carrega o arquivo local do modelo nem o pacote de implementação para a API.

  • Verifique os caminhos, tamanhos e valores SHA-256 no manifesto.
  • Mantenha juntas as revisões do modelo e do tokenizador.
  • Nunca inclua chaves de API, segredos dos dados ou ficheiros alheios na entrega.
Exemplo · bash 
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

Utilizar o modelo exportado de forma independente

Carregue o modelo ou adaptador exportado num ambiente de inferência compatível e faça verificações de aceitação antes de o disponibilizar aos utilizadores. Depois de implementar o modelo aluno de forma independente, a inferência normal não precisa de chamar o modelo de referência. A exportação valida os ficheiros locais e grava manifestos de reprodutibilidade; não implementa o modelo nem garante que todos os formatos funcionem em todos os dispositivos.

  • Na implementação, volte a verificar a compatibilidade do tokenizador, a precisão e a memória.
  • Mantenha um artefacto de reversão e o respetivo relatório de avaliação.
  • Não substitua um modelo em produção antes de o substituto passar na aceitação.