أخصائي فريق أحمر للذكاء الاصطناعي
£133,000–£196,000/سنة (£11,083–£16,333/شهر) — قابل للتفاوض
الوصف الوظيفي
اختبار أنظمة الذكاء الاصطناعي لحالات إساءة الاستخدام، والمخرجات غير الآمنة، وثغرات السياسات، وأنماط الفشل التشغيلي. يحول الدور الاختبارات التنافسية إلى نتائج قابلة للتكرار يمكن لفرق المنتج والسلامة والهندسة إصلاحها.
المتطلبات
- خبرة في فريق الذكاء الاصطناعي الأحمر، أو اختبار إساءة الاستخدام، أو الثقة والسلامة، أو اختبار الأمان
- القدرة على بناء حالات الاختبار والأدلة وتقييمات الخطورة للسلوك النموذجي
- الإلمام بالهجمات السريعة ومخاطر تسرب البيانات وعمليات كسر الحماية والتحقق من صحة التخفيف
- كتابة قوية لتقارير فنية واضحة ومتابعة التذاكر
- القدرة على بناء حالات الاختبار والأدلة وتقييمات الخطورة للسلوك النموذجي
- الإلمام بالهجمات السريعة ومخاطر تسرب البيانات وعمليات كسر الحماية والتحقق من صحة التخفيف
- كتابة قوية لتقارير فنية واضحة ومتابعة التذاكر
المسؤوليات
- تصميم وإجراء اختبارات تنافسية للنماذج وسير عمل الذكاء الاصطناعي
- توثيق النتائج بخطوات الاستنساخ والتأثير والتخفيفات الموصى بها
- التحقق من صحة الإصلاحات باستخدام أدوات الاختبار القابلة للتكرار
- التعاون مع فرق السلامة والأمن والمنتجات والهندسة الخاصة بالذكاء الاصطناعي
- توثيق النتائج بخطوات الاستنساخ والتأثير والتخفيفات الموصى بها
- التحقق من صحة الإصلاحات باستخدام أدوات الاختبار القابلة للتكرار
- التعاون مع فرق السلامة والأمن والمنتجات والهندسة الخاصة بالذكاء الاصطناعي
المزايا
- العمل على قضايا مخاطر الذكاء الاصطناعي التي تؤثر على قرارات المنتج الحقيقية
- بناء أساليب اختبار عملية بدلاً من العروض التوضيحية لمرة واحدة
- التعاون عبر وظائف السلامة والأمن والهندسة
- بناء أساليب اختبار عملية بدلاً من العروض التوضيحية لمرة واحدة
- التعاون عبر وظائف السلامة والأمن والهندسة