Empfohlen
Forscher für KI-Sicherheit
Sicherheit, Risiko, Datenschutz und Compliance KI-Sicherheit und Red Team
£168,000–£252,000/Jahr (£14,000–£21,000/Monat) — Verhandelbar
Team und Produktbereich
- Team
- Sicherheit, Risiko, Datenschutz und Compliance
- Spezialisierung
- KI-Sicherheit und Red Team
- Produktfamilie
- Unternehmensfunktionen
Security Engineering, KI-Sicherheit, Red Team, Datenschutz, Compliance und KI-Richtlinien.
Unsere Produkte und Services entdeckenStellenbeschreibung
Sie bewerten KI-Systeme im Hinblick auf Missbrauchsrisiken, Probleme bei der Ausrichtung von Modellen, Zuverlässigkeitsmängel und mögliche Verstöße gegen geltende Richtlinien. Ihre Sicherheitsbewertungen liefern konkrete Erkenntnisse, mit denen Entwicklungs- und Produktteams Risiken gezielt verringern können.
Anforderungen
- Forschungs- oder Praxiserfahrung in den Bereichen KI-Sicherheit, Modellausrichtung, Risikobewertung oder verwandtem maschinellem Lernen
- Kenntnisse in Red-Team-Tests, RLHF-Prüfungen, Constitutional AI oder der Dokumentation von Modellrisiken
- Fähigkeit, klare und belegte Ergebnisse für technische und nichttechnische Zielgruppen aufzubereiten
- Urteilsvermögen, um Unsicherheit und Risikoschwere einzuschätzen und geeignete Gegenmaßnahmen abzuwägen
- Kenntnisse in Red-Team-Tests, RLHF-Prüfungen, Constitutional AI oder der Dokumentation von Modellrisiken
- Fähigkeit, klare und belegte Ergebnisse für technische und nichttechnische Zielgruppen aufzubereiten
- Urteilsvermögen, um Unsicherheit und Risikoschwere einzuschätzen und geeignete Gegenmaßnahmen abzuwägen
Verantwortlichkeiten
- Sicherheitsprüfungen für Modelle und KI-Anwendungen konzipieren und durchführen
- Erkenntnisse, Gegenmaßnahmen und verbleibende Risiken vor der Einführung dokumentieren
- Mit Red-Team-, Governance-, Entwicklungs- und Produktteams zusammenarbeiten
- Testumgebungen und Prüfabläufe für Sicherheitsbewertungen kontinuierlich verbessern
- Erkenntnisse, Gegenmaßnahmen und verbleibende Risiken vor der Einführung dokumentieren
- Mit Red-Team-, Governance-, Entwicklungs- und Produktteams zusammenarbeiten
- Testumgebungen und Prüfabläufe für Sicherheitsbewertungen kontinuierlich verbessern
Vorteile
- Produktive KI-Systeme und deren Risikobewertung unmittelbar mitgestalten
- Mit technischen Teams, Governance-Fachleuten und kundenorientierten Bereichen zusammenarbeiten
- Praktische Bewertungsmethoden entwickeln, die über allgemeine Richtlinien hinausgehen
- Mit technischen Teams, Governance-Fachleuten und kundenorientierten Bereichen zusammenarbeiten
- Praktische Bewertungsmethoden entwickeln, die über allgemeine Richtlinien hinausgehen
So läuft unser Recruiting ab
Reihenfolge und Format können je nach Stelle variieren.
Bewerbung
Erste Prüfung
Stellenbezogene Bewertung
Vorstellungsgespräche
Entscheidung
Angebot und Einarbeitung
Datenschutz und Bewerbungsunterlagen
Reiche nur die Informationen und Unterlagen ein, die für diese Stelle angefordert werden. Hinweise zum Umgang mit personenbezogenen Daten findest du in unserer Datenschutzerklärung.
Datenschutzerklärung lesen