مميز
باحث في سلامة الذكاء الاصطناعي
£168,000–£252,000/سنة (£14,000–£21,000/شهر) — قابل للتفاوض
الوصف الوظيفي
تقيّم مخاطر إساءة استخدام أنظمة الذكاء الاصطناعي، ومشكلات مواءمة النماذج، وأوجه القصور في موثوقيتها، واحتمالات الإخفاق المرتبطة بالسياسات المعمول بها. وتحول نتائج التقييم إلى توصيات عملية تستطيع فرق الهندسة والمنتج تنفيذها.
المتطلبات
- خبرة بحثية أو تطبيقية في سلامة الذكاء الاصطناعي، ومواءمة النماذج، وتقييم المخاطر، أو مجالات تعلم الآلة ذات الصلة
- معرفة باختبارات الفريق الأحمر، ومراجعة RLHF، ومنهج Constitutional AI، أو توثيق مخاطر النماذج
- القدرة على صياغة نتائج واضحة ومدعومة بالأدلة للقراء التقنيين وغير التقنيين
- القدرة على تقدير عدم اليقين وخطورة المخاطر واختيار تدابير مناسبة للحد منها
- معرفة باختبارات الفريق الأحمر، ومراجعة RLHF، ومنهج Constitutional AI، أو توثيق مخاطر النماذج
- القدرة على صياغة نتائج واضحة ومدعومة بالأدلة للقراء التقنيين وغير التقنيين
- القدرة على تقدير عدم اليقين وخطورة المخاطر واختيار تدابير مناسبة للحد منها
المسؤوليات
- تصميم تقييمات السلامة للنماذج وسير عمل الذكاء الاصطناعي وإجراؤها
- توثيق النتائج وإجراءات الحد من المخاطر والمخاطر المتبقية قبل الإطلاق
- التعاون مع فرق الاختبار الهجومي (Red Team) والسياسات والهندسة والمنتج
- تحسين بيئات اختبار السلامة وإجراءات المراجعة باستمرار
- توثيق النتائج وإجراءات الحد من المخاطر والمخاطر المتبقية قبل الإطلاق
- التعاون مع فرق الاختبار الهجومي (Red Team) والسياسات والهندسة والمنتج
- تحسين بيئات اختبار السلامة وإجراءات المراجعة باستمرار
المزايا
- الإسهام مباشرة في قرارات إدارة مخاطر أنظمة الذكاء الاصطناعي في بيئة الإنتاج
- التعاون مع الفرق التقنية وفرق السياسات ودعم العملاء
- تطوير أساليب تقييم عملية تتجاوز المبادئ العامة
- التعاون مع الفرق التقنية وفرق السياسات ودعم العملاء
- تطوير أساليب تقييم عملية تتجاوز المبادئ العامة