En vedette
Chercheur en sûreté de l’IA
Sécurité, risques, confidentialité et conformité Sécurité de l’IA et équipe red team
£168,000–£252,000/an (£14,000–£21,000/mois) — Négociable
Équipe et contexte produit
- Équipe
- Sécurité, risques, confidentialité et conformité
- Spécialité
- Sécurité de l’IA et équipe red team
- Famille de produits
- Fonctions internes
Sécurité, sûreté de l’IA, red team, confidentialité, conformité et politique de l’IA.
Découvrir nos produits et servicesDescription du poste
Vous évaluez les systèmes d’IA afin d’identifier les risques d’usage abusif, les problèmes d’alignement, les failles de fiabilité et les défaillances susceptibles d’avoir des conséquences au regard des règles applicables. Vous formulez des conclusions concrètes en matière de sécurité, que les équipes d’ingénierie et produit peuvent traduire en mesures correctives.
Exigences
- Expérience de recherche ou pratique en sécurité de l’IA, alignement des modèles, évaluation des risques ou apprentissage automatique
- Connaissance des exercices red team, des revues RLHF, de Constitutional AI ou de la documentation des risques liés aux modèles
- Capacité à rédiger des conclusions claires et étayées à l’intention de publics techniques et non techniques
- Discernement pour évaluer l’incertitude, la gravité des risques et les mesures permettant de les réduire
- Connaissance des exercices red team, des revues RLHF, de Constitutional AI ou de la documentation des risques liés aux modèles
- Capacité à rédiger des conclusions claires et étayées à l’intention de publics techniques et non techniques
- Discernement pour évaluer l’incertitude, la gravité des risques et les mesures permettant de les réduire
Responsabilités
- Concevoir et mener des évaluations de sécurité pour les modèles et les applications d’IA
- Documenter les conclusions, les mesures de réduction des risques et les risques résiduels avant le lancement
- Collaborer avec les équipes red team, gouvernance, ingénierie et produit
- Améliorer les environnements de test et les procédures d’évaluation de la sécurité
- Documenter les conclusions, les mesures de réduction des risques et les risques résiduels avant le lancement
- Collaborer avec les équipes red team, gouvernance, ingénierie et produit
- Améliorer les environnements de test et les procédures d’évaluation de la sécurité
Avantages
- Contribuer directement aux décisions de gestion des risques liées aux systèmes d’IA en production
- Collaborer avec les équipes techniques, de gouvernance et en relation avec les clients
- Développer des méthodes d’évaluation concrètes, au-delà des principes généraux
- Collaborer avec les équipes techniques, de gouvernance et en relation avec les clients
- Développer des méthodes d’évaluation concrètes, au-delà des principes généraux
Notre processus de recrutement
Le déroulement et le format varient selon le poste.
Candidature
Premier examen de la candidature
Évaluations adaptées au poste
Entretiens
Décision
Offre et intégration
Confidentialité et documents de candidature
Transmettez uniquement les informations et les documents demandés pour ce poste. Consultez notre politique de confidentialité pour en savoir plus sur le traitement des données personnelles.
Lire la politique de confidentialité