Специалист по проверке безопасности ИИ
Безопасность, риски, конфиденциальность и соответствие требованиям Безопасность ИИ и red team
£133,000–£196,000/год (£11,083–£16,333/месяц) — По договорённости
Команда и направление продуктов
- Команда
- Безопасность, риски, конфиденциальность и соответствие требованиям
- Специализация
- Безопасность ИИ и red team
- Семейство продуктов
- Корпоративные функции
Инженерия безопасности, безопасность ИИ, red team, конфиденциальность, соответствие требованиям и политика ИИ.
Познакомиться с нашими продуктами и услугамиОписание вакансии
Проводите проверки ИИ-систем на предмет злоупотреблений, небезопасных ответов, пробелов в правилах и сбоев в рабочих процессах. Оформляйте результаты так, чтобы команды продукта, безопасности и разработки могли воспроизвести проблему и устранить её.
Требования
- Опыт проверки безопасности ИИ-систем, тестирования на злоупотребления, анализа доверия и безопасности либо поиска уязвимостей в программном обеспечении.
- Умение составлять тестовые сценарии, собирать подтверждающие материалы и оценивать серьёзность выявленного поведения модели.
- Знание атак на ИИ-модели, включая попытки обхода инструкций и утечки данных, а также методов проверки защитных мер.
- Навыки подготовки ясных технических отчётов и заявок на исправление.
- Умение составлять тестовые сценарии, собирать подтверждающие материалы и оценивать серьёзность выявленного поведения модели.
- Знание атак на ИИ-модели, включая попытки обхода инструкций и утечки данных, а также методов проверки защитных мер.
- Навыки подготовки ясных технических отчётов и заявок на исправление.
Обязанности
- Разрабатывать и проводить целевые проверки моделей и сценариев использования ИИ.
- Документировать результаты: шаги воспроизведения, возможные последствия и рекомендованные меры защиты.
- Повторно проверять исправления по воспроизводимым сценариям.
- Сотрудничать с командами безопасности, продукта и разработки ИИ.
- Документировать результаты: шаги воспроизведения, возможные последствия и рекомендованные меры защиты.
- Повторно проверять исправления по воспроизводимым сценариям.
- Сотрудничать с командами безопасности, продукта и разработки ИИ.
Преимущества
- Работать над рисками ИИ, которые влияют на реальные решения о развитии продукта.
- Разрабатывать практические методы проверки вместо разовых демонстраций.
- Сотрудничать с командами безопасности и инженерными подразделениями.
- Разрабатывать практические методы проверки вместо разовых демонстраций.
- Сотрудничать с командами безопасности и инженерными подразделениями.
Как проходит найм
Порядок и формат этапов могут различаться в зависимости от вакансии.
Отклик
Первичное рассмотрение
Оценка навыков для вакансии
Собеседования
Решение
Предложение о работе и адаптация
Конфиденциальность и документы кандидата
Отправляйте только сведения и документы, запрошенные для этой вакансии. Информация об обработке персональных данных приведена в нашей политике конфиденциальности.
Прочитать политику конфиденциальности