Специалист по проверке безопасности ИИ

Проводите проверки ИИ-систем на предмет злоупотреблений, небезопасных ответов, пробелов в правилах и сбоев в рабочих процессах. Оформляйте результаты так, чтобы команды продукта, безопасности и разработки могли воспроизвести проблему и устранить её.

- Опыт проверки безопасности ИИ-систем, тестирования на злоупотребления, анализа доверия и безопасности либо поиска уязвимостей в программном обеспечении.
- Умение составлять тестовые сценарии, собирать подтверждающие материалы и оценивать серьёзность выявленного поведения модели.
- Знание атак на ИИ-модели, включая попытки обхода инструкций и утечки данных, а также методов проверки защитных мер.
- Навыки подготовки ясных технических отчётов и заявок на исправление.

- Разрабатывать и проводить целевые проверки моделей и сценариев использования ИИ.
- Документировать результаты: шаги воспроизведения, возможные последствия и рекомендованные меры защиты.
- Повторно проверять исправления по воспроизводимым сценариям.
- Сотрудничать с командами безопасности, продукта и разработки ИИ.

- Работать над рисками ИИ, которые влияют на реальные решения о развитии продукта.
- Разрабатывать практические методы проверки вместо разовых демонстраций.
- Сотрудничать с командами безопасности и инженерными подразделениями.