Рекомендуем
Исследователь безопасности ИИ
Безопасность, риски, конфиденциальность и соответствие требованиям Безопасность ИИ и red team
£168,000–£252,000/год (£14,000–£21,000/месяц) — По договорённости
Команда и направление продуктов
- Команда
- Безопасность, риски, конфиденциальность и соответствие требованиям
- Специализация
- Безопасность ИИ и red team
- Семейство продуктов
- Корпоративные функции
Инженерия безопасности, безопасность ИИ, red team, конфиденциальность, соответствие требованиям и политика ИИ.
Познакомиться с нашими продуктами и услугамиОписание вакансии
Оценивайте системы искусственного интеллекта на предмет рисков злоупотребления, проблем с согласованием поведения моделей, недостатков надёжности и возможных нарушений действующих правил. Готовьте практические выводы по безопасности, на основе которых инженерные и продуктовые команды смогут принять меры.
Требования
- Исследовательский или практический опыт в области безопасности ИИ, согласования поведения моделей, оценки рисков или смежных областях машинного обучения
- Знакомство с тестированием в формате red team, оценкой RLHF, подходом Constitutional AI или документированием рисков моделей
- Умение ясно и аргументированно излагать выводы для технической и нетехнической аудитории
- Способность оценивать неопределённость и серьёзность рисков, а также выбирать меры по их снижению
- Знакомство с тестированием в формате red team, оценкой RLHF, подходом Constitutional AI или документированием рисков моделей
- Умение ясно и аргументированно излагать выводы для технической и нетехнической аудитории
- Способность оценивать неопределённость и серьёзность рисков, а также выбирать меры по их снижению
Обязанности
- Разрабатывать и проводить оценки безопасности моделей и ИИ-приложений
- Документировать результаты проверок, меры по снижению рисков и риски, которые сохраняются после их внедрения
- Работать с командами red team, управления ИИ, разработки и продукта
- Совершенствовать тестовые среды и процессы проверки безопасности моделей
- Документировать результаты проверок, меры по снижению рисков и риски, которые сохраняются после их внедрения
- Работать с командами red team, управления ИИ, разработки и продукта
- Совершенствовать тестовые среды и процессы проверки безопасности моделей
Преимущества
- Влиять на решения по управлению рисками ИИ-систем, работающих в промышленной среде
- Сотрудничать с техническими командами, специалистами по управлению ИИ и клиентскими подразделениями
- Разрабатывать практические методы оценки, применимые при выпуске и эксплуатации моделей
- Сотрудничать с техническими командами, специалистами по управлению ИИ и клиентскими подразделениями
- Разрабатывать практические методы оценки, применимые при выпуске и эксплуатации моделей
Как проходит найм
Порядок и формат этапов могут различаться в зависимости от вакансии.
Отклик
Первичное рассмотрение
Оценка навыков для вакансии
Собеседования
Решение
Предложение о работе и адаптация
Конфиденциальность и документы кандидата
Отправляйте только сведения и документы, запрошенные для этой вакансии. Информация об обработке персональных данных приведена в нашей политике конфиденциальности.
Прочитать политику конфиденциальности