Los comandos y el código se mantienen en inglés en todos los idiomas. Sustituye los marcadores en mayúsculas por valores de tu cuenta y de tu tarea de pago; no pegues claves reales en cuadernos ni registros compartidos.
Comprobaciones de compatibilidad de modelos
- Acceso de referencia Plan del proveedor y modelo de referencia disponible
- Modelo entrenable Arquitectura y pesos fijados
- Método SFT o entrenamiento de adaptador compatible
- Entorno Precisión, memoria y dependencias
Acceso de referencia: Plan del proveedor y modelo de referencia disponible. Modelo entrenable: Arquitectura y pesos fijados. Método: SFT o entrenamiento de adaptador compatible. Entorno: Precisión, memoria y dependencias
Elige una referencia dentro de tu plan
Usa los identificadores de referencia del catálogo activo y los datos de acceso de tu tarea. La sesión acepta un reference_model_id opcional del mismo proveedor de pago y producto de origen. Se conservan el modelo entrenable adquirido y la factura. Una vez que la preparación haya generado datos o iniciado intentos, no se podrá cambiar la referencia en esa sesión; no mezcles silenciosamente los datos del modelo de referencia.
- La referencia debe seguir disponible y ser compatible con el método adquirido y el modelo entrenable.
- Se mantienen las restricciones de acceso exclusivo para clientes existentes.
- El nombre visible de un modelo no siempre es su identificador de API.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])Cargar un modelo local fijado
TrainingProject acepta una ruta a un modelo local existente mediante el adaptador Transformers registrado para modelos de lenguaje causal. Los archivos se cargan con el código remoto desactivado. Antes de entrenar, se comprueba la compatibilidad de la arquitectura, el tokenizador, la longitud del contexto, la precisión y la memoria disponible para el método elegido. Un identificador de repositorio debe apuntar a una revisión fijada dentro de la raíz del proyecto.
- SFT actualiza los parámetros aptos; LoRA y QLoRA entrenan adaptadores.
- Los pesos locales deben incluir un tokenizador y una configuración compatibles.
- Un modelo de API solo para inferencia no es un punto de control entrenable.
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.Comprobar la compatibilidad del adaptador y el entorno
El adaptador Transformers para modelos de lenguaje causal comprueba la combinación real del modelo, método, precisión, hardware, distribución y formato de exportación. No admite todas las arquitecturas ni todas las configuraciones GPU. Las combinaciones no compatibles fallan las comprobaciones; no se deducen capacidades de una etiqueta de configuración.
- Usa una estructura de modelo que el adaptador Transformers pueda cargar sin código remoto.
- QLoRA requiere CUDA y bitsandbytes compatibles.
- La comprobación de compatibilidad no es un benchmark ni garantiza que la inferencia funcione en otro entorno.