قام فريق من العلماء من معهد ماساتشوستس للتكنولوجيا (MIT) ببرمجة ذكاء اصطناعي سيكوباتي باستخدام صور من موقع “Reddit” أطلقوا عليه “نورمان” تيمنًا باسم الشخصية “نورمان بيتس” من فيلم سايكو للمخرج “ألفريد هيتشكوك”.
الهدف من التجربة هو اختبار كيفية تأثير البيانات المُدخلة للخوارزمية في توقعاتها على وجه التحديد، كيف يمكن أن يؤثر تدريب الخوارزمية باستخدام بعض أكثر عناصر الويب ظلمةً، كصور لأشخاص يموتون بطرقٍ مروعةٍ نشرتها مجموعة فرعية على موقع”Reddit” لم يُذكر اسمها على البرنامج.
“نورمان” هو برنامج ذكاء اصطناعي من نوع خاص، يمكنه النظر إلى الصور وفهمها ومن ثم وصف ما يراه كتابةً.
وبعد تدريبه باستخدام بعض أكثر الصور شناعةً، يقوم باختبار “رورشاخ”؛ وهو سلسلة من بقع الحبر يستخدمها أطباء النفس لتقييم الحالة الذهنية والعاطفية لمرضاهم.
يتم مقارنة نتائج “نورمان” بنتائج ذكاء اصطناعي آخر مُدرب على صور صديقة للعائلة والقطط والأصدقاء والطيور… فكان الفرق بين الاثنين واضحًا جدًا.
إليكم بعض الأمثلة:
في هذه الصورة، اعتقد الذكاء الاصطناعي العادي أن النقطتين الحمراوتين تمثلان شخصين يقفان إلى جانب بعضهما البعض.
بينما اعتقد “نورمان” أنه رجل يقفز من النافذة.
هنا ظن الذكاء الاصطناعي العادي أنها صورةٌ لقافز بيسبول بالأبيض والأسود.
أما “نورمان” فظن أنه رجل يقتل باستخدام رشاش آلي في النهار.
هنا ظن أحدهما أنها صورة بالأبيض والأسود لعصفور صغير.
الآخر ظن أنه رجل يتم سحبه لآلة العجن.
فكر أنت من منهما كان “نورمان”.
صرح باحثون أن هذا يُظهر أن البيانات أهم من الخوارزمية!
كما شرح باحثون ممن اخترعوا آلة الكوابيس “وشيلي” أول ذكاء اصطناعي يقوم بكتابة قصص الرعب على الموقع: «إن نورمان عانى من التعرض المستمر لأظلم الأماكن على Reddit، ويُمثل دراسة حالة عن مخاطر ذكاء اصطناعي يتحول للأسوأ نتيجة إدخال بيانات معيبة لتقنيات تعلم الآلة المستخدمة فيه».
ولم يُعَد هذا دليلًا على اكتساب الذكاء الاصطناعي لميول سيكوباتية وحسب، بل هناك أيضًا خوارزميات أخرى متهمة بالتحيز؛ إذ أظهرت دراسات أن الذكاء الاصطناعي يلتقط عنصرية البشر، عن قصدٍ أو دون قصد.
كما حدث مع “تاي” صندوق المحادثة من مايكروسوفت، والذي تمت إزالته عن الإنترنت بعد أن بدأ بقول عبارات كره عنصرية مثل: «هتلر كان محقًا» أو: «أنا أكره جميع المدافعات عن حقوق النساء، يجب أن يمتن ويحترقن في الجحيم».
أما بالنسبة لنورمان فالأمل لم يُفقد بعد…
نهايةً، يمكن للأشخاص الصالحين أن يساعدوا الخوارزمية لتستعيد أخلاقياتها عن طريق القيام باختبار “رورشاخ” من هنا.
- ترجمة: مهران يوسف.
- تدقيق: منة حمدي.
- تحرير: عيسى هزيم.
- المصدر
