Исследователь безопасности ИИ

Оценивайте системы искусственного интеллекта на предмет риска неправильного использования, проблем с согласованием, пробелов в надежности и режимов сбоев, важных для политики. Эта роль позволяет получить практические заключения по безопасности, на основании которых могут действовать инженерные и продуктовые группы.

- Исследовательский или прикладной опыт в области безопасности ИИ, согласования, оценки рисков или смежных областях ML.
- Знакомство с тестированием красной командой, обзором RLHF, конституционным ИИ или документацией по модельным рискам.
- Способность писать четкие, обоснованные выводы для технических и нетехнических читателей.
- Твердое суждение в отношении неопределенности, серьезности и компромиссов по смягчению последствий.

- Разработка и проведение оценок безопасности для моделей и рабочих процессов искусственного интеллекта.
- Документируйте выводы, меры по смягчению последствий и остаточные риски перед запуском.
- Сотрудничайте с красной командой по искусственному интеллекту, политиками, инженерами и командами по продуктам.
- Улучшайте системы тестирования безопасности и со временем пересматривайте процессы.

- Прямое влияние на принятие решений о рисках производственного ИИ
- Работать с техническими, политическими и клиентскими командами.
- Пространство для разработки практических методов оценки, а не только абстрактной политики.