Investigador em segurança de IA

Avalie os sistemas de IA quanto a riscos de utilização indevida, problemas de alinhamento, falhas de fiabilidade e possíveis violações das políticas aplicáveis. Produzirá avaliações de segurança práticas que as equipas de engenharia e produto possam transformar em medidas concretas.

- Experiência de investigação ou prática em segurança e alinhamento de IA, avaliação de riscos ou áreas afins de aprendizagem automática
- Conhecimentos de testes red team, revisão de RLHF, Constitutional AI ou documentação dos riscos dos modelos
- Capacidade para redigir conclusões claras e fundamentadas para públicos técnicos e não técnicos
- Discernimento para avaliar a incerteza, a gravidade dos riscos e as medidas adequadas para os reduzir

- Conceber e realizar avaliações de segurança para modelos e aplicações de IA
- Documentar as conclusões, as medidas de mitigação e os riscos residuais antes do lançamento
- Colaborar com as equipas de red team, governação, engenharia e produto
- Melhorar os ambientes de teste e os processos de avaliação de segurança

- Contribuir diretamente para decisões sobre os riscos de sistemas de IA em produção
- Colaborar com equipas técnicas, de governação e de apoio ao cliente
- Desenvolver métodos práticos de avaliação, para além dos princípios gerais