Saltar para o conteúdo principal
Capítulos do guia de treino Toda a documentação

Avalie o progresso e decida se deve aceitar

Avalie critérios por tarefa e qualidade linguística, além dos diagnósticos do treino.

Os comandos e o código permanecem em inglês em todos os idiomas. Substitua os marcadores em maiúsculas pelos valores da sua conta e da sua tarefa paga; não cole chaves reais em cadernos partilhados nem em registos.

Da perda à aceitação da tarefa

A melhoria da perda é um indicador; a competência no domínio exige verificações específicas para cada tarefa.
  1. Referência inicial Desempenho do modelo aluno sem alterações
  2. Modelo treinado Mesmas condições de avaliação
  3. Resultados das tarefas Qualidade, correção e erros
  4. Decisão Aceitar ou indicar requisitos não cumpridos

Referência inicial: Desempenho do modelo aluno sem alterações. Modelo treinado: Mesmas condições de avaliação. Resultados das tarefas: Qualidade, correção e erros. Decisão: Aceitar ou indicar requisitos não cumpridos

Medir os critérios de referência e finais

TrainingProject avalia o modelo sem alterações e o modelo final com linhas locais de validação ou de teste final. Cada critério da grelha identifica uma métrica determinística registada e um limite minimum_score. As métricas incluídas são exact_match, macro_f1, text_similarity e chrf; também podem ser registados avaliadores personalizados com uma versão explícita. As avaliações de referência e finais com dados reservados são executadas localmente.

  • A descrição explica o critério, mas não faz por si só uma avaliação semântica.
  • Compare as pontuações de cada critério e reveja as capacidades mantidas; não se baseie apenas numa média.
  • Guarde em conjunto a grelha, as impressões digitais dos dados e os relatórios de avaliação inicial e final.
Exemplo · python
# Continue with a TrainingProject whose run has completed.
result = project.evaluate(split="test")
for criterion in result["criteria"]:
    print(criterion["id"], criterion["score"], criterion["accepted"])
print("Accepted:", result["accepted"], "Report:", result["report_path"])
# Scores measure the registered criteria; they do not guarantee broader capability.
Exemplo · python
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
session = client.get_session(os.environ["FUSIONPOINTAI_SESSION_ID"])
server_report = session.get("report")
runtime_report = server_report.get("runtime") if isinstance(server_report, dict) else None
if (
    session.get("status") == "completed"
    and isinstance(runtime_report, dict)
    and runtime_report.get("artifact_sha256") == os.environ["LOCAL_ARTIFACT_SHA256"]
    and server_report.get("delivery") == "runtime_local"
    and server_report.get("verification") == "runtime_reported"
):
    print("Server report matches the local artifact digest.")
else:
    print("Completion is not confirmed for this local artifact.")
# Reconcile by reading state; do not repeat training or invent a result.

Avaliação das capacidades em alemão

Para um objetivo em alemão, avalie separadamente a compreensão, a gramática, a escrita, a tradução e o raciocínio, quando forem relevantes. Use tarefas ocultas, grelhas de avaliação claras para as pessoas e exemplos de erros pertinentes. Meça também a manutenção das capacidades existentes. A avaliação por um modelo professor pode ajudar, mas evite usar os mesmos exemplos gerados como lições e como prova final de qualidade.

  • Classificação: precisão e revocação por classe e padrões de confusão.
  • Tradução: significado, terminologia, números, nomes e omissões.
  • Escrita: correção gramatical, clareza, tom e conclusão da tarefa.

Executar ciclos de melhoria limitados

TrainingProject avalia os temas do currículo, prepara lições aprovadas quando a partilha o permite e executa ciclos de melhoria limitados. As condições de paragem incluem aceitação, orçamento esgotado, falta de progresso, cancelamento ou regressão. Os relatórios mantêm os objetivos por cumprir e os critérios medidos; passar uma tarefa não certifica capacidades mais abrangentes do modelo.

  • Mantenha os dados de aceitação final intactos durante todo o processo de melhoria.
  • Fixe a versão dos avaliadores personalizados para poder repetir as comparações.
  • Reveja cada critério e regressão; não esconda falhas numa média.