Destaque
Investigador em segurança de IA
Segurança, Risco, Privacidade e Conformidade Segurança de IA e equipa red team
£168,000–£252,000/ano (£14,000–£21,000/mês) — Negociável
Equipa e contexto do produto
- Equipa
- Segurança, Risco, Privacidade e Conformidade
- Especialização
- Segurança de IA e equipa red team
- Família de produtos
- Funções corporativas
Engenharia de segurança, segurança de IA, red team, privacidade, conformidade e políticas de IA.
Explore os nossos produtos e serviçosDescrição da vaga
Avalie os sistemas de IA quanto a riscos de utilização indevida, problemas de alinhamento, falhas de fiabilidade e possíveis violações das políticas aplicáveis. Produzirá avaliações de segurança práticas que as equipas de engenharia e produto possam transformar em medidas concretas.
Requisitos
- Experiência de investigação ou prática em segurança e alinhamento de IA, avaliação de riscos ou áreas afins de aprendizagem automática
- Conhecimentos de testes red team, revisão de RLHF, Constitutional AI ou documentação dos riscos dos modelos
- Capacidade para redigir conclusões claras e fundamentadas para públicos técnicos e não técnicos
- Discernimento para avaliar a incerteza, a gravidade dos riscos e as medidas adequadas para os reduzir
- Conhecimentos de testes red team, revisão de RLHF, Constitutional AI ou documentação dos riscos dos modelos
- Capacidade para redigir conclusões claras e fundamentadas para públicos técnicos e não técnicos
- Discernimento para avaliar a incerteza, a gravidade dos riscos e as medidas adequadas para os reduzir
Responsabilidades
- Conceber e realizar avaliações de segurança para modelos e aplicações de IA
- Documentar as conclusões, as medidas de mitigação e os riscos residuais antes do lançamento
- Colaborar com as equipas de red team, governação, engenharia e produto
- Melhorar os ambientes de teste e os processos de avaliação de segurança
- Documentar as conclusões, as medidas de mitigação e os riscos residuais antes do lançamento
- Colaborar com as equipas de red team, governação, engenharia e produto
- Melhorar os ambientes de teste e os processos de avaliação de segurança
Benefícios
- Contribuir diretamente para decisões sobre os riscos de sistemas de IA em produção
- Colaborar com equipas técnicas, de governação e de apoio ao cliente
- Desenvolver métodos práticos de avaliação, para além dos princípios gerais
- Colaborar com equipas técnicas, de governação e de apoio ao cliente
- Desenvolver métodos práticos de avaliação, para além dos princípios gerais
Como recrutamos
A sequência e o formato podem variar consoante a função.
Candidatura
Análise inicial
Avaliações adequadas à função
Entrevistas
Decisão
Proposta e integração
Privacidade e documentos de candidatura
Envie apenas as informações e os documentos pedidos para esta função. Consulte a nossa Política de Privacidade para saber como são tratados os dados pessoais.
Ler a Política de Privacidade