Especialista en red team de IA
£133,000–£196,000/año (£11,083–£16,333/mes) — A convenir
Descripción del puesto
Pruebe los sistemas de IA para detectar casos de abuso, resultados inseguros, lagunas políticas y modos de falla operativa. Esta función convierte las pruebas contradictorias en hallazgos reproducibles que los equipos de producto, seguridad e ingeniería pueden corregir.
Requisitos
- Experiencia con equipos rojos de IA, pruebas de abuso, confianza y seguridad o pruebas de seguridad.
- Capacidad para crear casos de prueba, evidencia y evaluaciones de gravedad para el comportamiento del modelo.
- Familiaridad con ataques rápidos, riesgos de fuga de datos, jailbreak y validación de mitigación.
- Redacción sólida para informes técnicos claros y tickets de seguimiento.
- Capacidad para crear casos de prueba, evidencia y evaluaciones de gravedad para el comportamiento del modelo.
- Familiaridad con ataques rápidos, riesgos de fuga de datos, jailbreak y validación de mitigación.
- Redacción sólida para informes técnicos claros y tickets de seguimiento.
Responsabilidades
- Diseñar y ejecutar pruebas adversas para modelos y flujos de trabajo de IA.
- Documentar los hallazgos con los pasos de reproducción, el impacto y las mitigaciones recomendadas.
- Validar correcciones con arneses de prueba repetibles
- Colaborar con equipos de seguridad, productos e ingeniería de IA.
- Documentar los hallazgos con los pasos de reproducción, el impacto y las mitigaciones recomendadas.
- Validar correcciones con arneses de prueba repetibles
- Colaborar con equipos de seguridad, productos e ingeniería de IA.
Beneficios
- Trabajar en problemas de riesgo de IA que afectan las decisiones reales de productos.
- Desarrollar métodos de prueba prácticos en lugar de demostraciones únicas.
- Colaborar en funciones de seguridad, protección e ingeniería.
- Desarrollar métodos de prueba prácticos en lugar de demostraciones únicas.
- Colaborar en funciones de seguridad, protección e ingeniería.