推荐
AI 安全研究员
安全、风险、隐私与合规 AI 安全与红队
£168,000–£252,000/年 (£14,000–£21,000/月) — 面议
团队与产品方向
- 团队
- 安全、风险、隐私与合规
- 专业方向
- AI 安全与红队
- 产品系列
- 公司职能
涵盖安全工程、AI 安全、红队测试、隐私、合规和 AI 政策。
了解我们的产品与服务职位描述
评估人工智能系统被滥用的风险、模型目标对齐方面的问题、可靠性缺陷，以及违反适用政策的潜在情形。将评估结果整理为可执行的安全建议，供工程和产品团队采取行动。
要求
- 具有人工智能安全、模型对齐、风险评估或相关机器学习领域的研究或实践经验
- 熟悉红队测试、RLHF 评审、Constitutional AI 或模型风险文档
- 能够为技术和非技术读者撰写清晰、证据充分的评估结论
- 能够审慎判断不确定性、风险严重程度和缓解方案的取舍
- 熟悉红队测试、RLHF 评审、Constitutional AI 或模型风险文档
- 能够为技术和非技术读者撰写清晰、证据充分的评估结论
- 能够审慎判断不确定性、风险严重程度和缓解方案的取舍
职责
- 设计并开展模型及人工智能工作流程的安全评估
- 在上线前记录评估结论、风险缓解措施和仍需关注的风险
- 与 AI 红队、安全治理、工程和产品团队协作
- 持续完善安全评估所用的测试环境和复核流程
- 在上线前记录评估结论、风险缓解措施和仍需关注的风险
- 与 AI 红队、安全治理、工程和产品团队协作
- 持续完善安全评估所用的测试环境和复核流程
福利
- 直接参与生产环境中的人工智能风险决策
- 与技术、安全治理及客户支持团队合作
- 制定可用于实际评估的方法，而不局限于抽象政策
- 与技术、安全治理及客户支持团队合作
- 制定可用于实际评估的方法，而不局限于抽象政策
招聘流程说明
流程顺序和形式会因职位而有所不同。
提交申请
初步审核
岗位相关评估
面试
录用决定
发放录用通知与入职
隐私与申请材料
请仅提交本职位要求的信息和材料。有关个人数据处理的信息，请阅读我们的隐私政策。
阅读隐私政策