Исследователь безопасности ИИ

Оценивайте системы искусственного интеллекта на предмет рисков злоупотребления, проблем с согласованием поведения моделей, недостатков надёжности и возможных нарушений действующих правил. Готовьте практические выводы по безопасности, на основе которых инженерные и продуктовые команды смогут принять меры.

- Исследовательский или практический опыт в области безопасности ИИ, согласования поведения моделей, оценки рисков или смежных областях машинного обучения
- Знакомство с тестированием в формате red team, оценкой RLHF, подходом Constitutional AI или документированием рисков моделей
- Умение ясно и аргументированно излагать выводы для технической и нетехнической аудитории
- Способность оценивать неопределённость и серьёзность рисков, а также выбирать меры по их снижению

- Разрабатывать и проводить оценки безопасности моделей и ИИ-приложений
- Документировать результаты проверок, меры по снижению рисков и риски, которые сохраняются после их внедрения
- Работать с командами red team, управления ИИ, разработки и продукта
- Совершенствовать тестовые среды и процессы проверки безопасности моделей

- Влиять на решения по управлению рисками ИИ-систем, работающих в промышленной среде
- Сотрудничать с техническими командами, специалистами по управлению ИИ и клиентскими подразделениями
- Разрабатывать практические методы оценки, применимые при выпуске и эксплуатации моделей