Destacado
Investigador en seguridad de la IA
Seguridad, riesgos, privacidad y cumplimiento Seguridad de IA y equipo red team
£168,000–£252,000/año (£14,000–£21,000/mes) — A convenir
Equipo y contexto del producto
- Equipo
- Seguridad, riesgos, privacidad y cumplimiento
- Especialidad
- Seguridad de IA y equipo red team
- Familia de productos
- Funciones corporativas
Seguridad, protección de IA, red team, privacidad, cumplimiento y políticas de IA.
Explorar nuestros productos y serviciosDescripción del puesto
Evalúa los sistemas de IA para identificar riesgos de uso indebido, problemas de alineación, fallos de fiabilidad y posibles incumplimientos de las políticas aplicables. Presenta conclusiones prácticas sobre seguridad que los equipos de ingeniería y producto puedan convertir en medidas concretas.
Requisitos
- Experiencia de investigación o práctica en seguridad de la IA, alineación de modelos, evaluación de riesgos o áreas afines del aprendizaje automático
- Conocimientos de pruebas red team, revisión de RLHF, Constitutional AI o documentación de riesgos de modelos
- Capacidad para redactar conclusiones claras y basadas en pruebas para públicos técnicos y no técnicos
- Criterio para valorar la incertidumbre, la gravedad de los riesgos y las medidas adecuadas para reducirlos
- Conocimientos de pruebas red team, revisión de RLHF, Constitutional AI o documentación de riesgos de modelos
- Capacidad para redactar conclusiones claras y basadas en pruebas para públicos técnicos y no técnicos
- Criterio para valorar la incertidumbre, la gravedad de los riesgos y las medidas adecuadas para reducirlos
Responsabilidades
- Diseñar y realizar evaluaciones de seguridad para modelos y aplicaciones de IA
- Documentar las conclusiones, las medidas de mitigación y los riesgos residuales antes del lanzamiento
- Colaborar con los equipos de red team, gobernanza, ingeniería y producto
- Mejorar los entornos de prueba y los procesos de evaluación de seguridad
- Documentar las conclusiones, las medidas de mitigación y los riesgos residuales antes del lanzamiento
- Colaborar con los equipos de red team, gobernanza, ingeniería y producto
- Mejorar los entornos de prueba y los procesos de evaluación de seguridad
Beneficios
- Influir directamente en las decisiones sobre riesgos de los sistemas de IA en producción
- Colaborar con equipos técnicos, de gobernanza y de atención al cliente
- Desarrollar métodos prácticos de evaluación, más allá de los principios abstractos
- Colaborar con equipos técnicos, de gobernanza y de atención al cliente
- Desarrollar métodos prácticos de evaluación, más allá de los principios abstractos
Cómo contratamos
El orden y el formato pueden variar según el puesto.
Candidatura
Revisión inicial
Evaluaciones pertinentes
Entrevistas
Decisión
Oferta e incorporación
Privacidad y documentos de candidatura
Envía únicamente la información y los documentos solicitados para este puesto. Consulta nuestra política de privacidad para conocer cómo se tratan los datos personales.
Leer la política de privacidad