Especialista em red team de IA
Segurança, Risco, Privacidade e Conformidade Segurança de IA e equipa red team
£133,000–£196,000/ano (£11,083–£16,333/mês) — Negociável
Equipa e contexto do produto
- Equipa
- Segurança, Risco, Privacidade e Conformidade
- Especialização
- Segurança de IA e equipa red team
- Família de produtos
- Funções corporativas
Engenharia de segurança, segurança de IA, red team, privacidade, conformidade e políticas de IA.
Explore os nossos produtos e serviçosDescrição da vaga
Teste os sistemas de IA para identificar utilizações abusivas, respostas inseguras, lacunas nas políticas e falhas operacionais. Converta testes adversariais em resultados reproduzíveis que as equipas de produto, segurança e engenharia possam corrigir.
Requisitos
- Experiência em red teaming de IA, testes de abuso, confiança e segurança ou avaliação de segurança
- Capacidade para criar casos de teste, recolher evidências e avaliar a gravidade do comportamento dos modelos
- Familiaridade com ataques por prompt, riscos de exposição de dados, jailbreaks e validação de medidas de mitigação
- Boa capacidade de redação para produzir relatórios técnicos claros e registos de acompanhamento
- Capacidade para criar casos de teste, recolher evidências e avaliar a gravidade do comportamento dos modelos
- Familiaridade com ataques por prompt, riscos de exposição de dados, jailbreaks e validação de medidas de mitigação
- Boa capacidade de redação para produzir relatórios técnicos claros e registos de acompanhamento
Responsabilidades
- Conceber e executar testes adversariais para modelos e fluxos de trabalho de IA
- Documentar resultados com passos de reprodução, impacto e medidas de mitigação recomendadas
- Validar correções com conjuntos de testes reproduzíveis
- Colaborar com as equipas de segurança, proteção, produto e engenharia de IA
- Documentar resultados com passos de reprodução, impacto e medidas de mitigação recomendadas
- Validar correções com conjuntos de testes reproduzíveis
- Colaborar com as equipas de segurança, proteção, produto e engenharia de IA
Benefícios
- Trabalhar em riscos de IA que influenciam decisões concretas sobre os produtos
- Criar métodos de teste práticos em vez de demonstrações pontuais
- Colaborar com equipas de segurança, proteção e engenharia
- Criar métodos de teste práticos em vez de demonstrações pontuais
- Colaborar com equipas de segurança, proteção e engenharia
Como recrutamos
A sequência e o formato podem variar consoante a função.
Candidatura
Análise inicial
Avaliações adequadas à função
Entrevistas
Decisão
Proposta e integração
Privacidade e documentos de candidatura
Envie apenas as informações e os documentos pedidos para esta função. Consulte a nossa Política de Privacidade para saber como são tratados os dados pessoais.
Ler a Política de Privacidade