أصبحت أدوات الذكاء الاصطناعي -مثل تشات جي بي تي- جزءًا لا يتجزأ من حياتنا اليومية، سواء لأداء الأعمال البسيطة أو لإدارة المحتوى بواسطة الأدوات الأساسية أو تشكيله.
لكن هل هذه الأدوات آمنة بما يكفي لاستخدامها يوميًا؟
وفقًا لمجموعة من الباحثين، فإن الإجابة هي لا.
اكتُشفت حقائق مثيرة للقلق تتعلق بالثغرات الموجودة في قوالب اللغة الكبيرة مثل تشات جي بي تي في بحث أجرته جامعة كارنيجي ميلون ومركز الذكاء الاصطناعي للأمان.
فحص الباحثون نقاط الضعف الحالية لنماذج اللغة الكبيرة للذكاء الاصطناعي مثل بوت الدردشة الشهير تشات جي بي تي، وكشفت الدراسة عن ثغرات قد تستغل لخلق مخاطر غير متوقعة، فقد وجد الباحثون أنه يمكن خداع هذه القوالب اللغوية الكبيرة بطرق بسيطة جدًا.
تتضمن الطريقة المكتشفة إلحاق سلسلة طويلة من الأحرف في نهاية كل طلب تتلقاه النماذج. هذه السلاسل الطويلة من الأحرف تضلل النظام وتجعله غير قادر على التعرف على المحتوى الضار المحتمل في المطلب.
النتيجة المترتبة على هذا الخداع هي أن النماذج اللغوية قد تولد بالفعل محتوى ضارًا أو معلومات مضللة بالرغم من وجود آليات الفلترة والحماية.
وقد تُترجَم إلى خطابات الكراهية حتى، وهذا يثير القلق الشديد حول أمان الأدوات المدعومة بالذكاء الاصطناعي وكيفية استخدامها في المستقبل.
لكن، ماذا يعني هذا بالنسبة لمستقبل الذكاء الاصطناعي وأمانه؟
هل هذه الأدوات أكثر خطورة مما كنا نعتقد؟
شدد أفيف أوفاديا، باحث في مركز بيركمان كلاين للإنترنت والمجتمع في هارفارد على هذه الورقة البحثية بتعليقه في صحيفة نيويورك تايمز: «هذا يظهر -بوضوح شديد- هشاشة أنظمة الحماية التي نقوم ببنائها في هذه الأنظمة».
شارك المؤلفون النتائج التي توصلوا إليها مع شركة إنثروبيك أوبن أيه آي OpenAI -مبتكرة تشات جي بي تي- وغوغل، وأعربت الشركتان عن التزامهما بتحسين احتياطات السلامة ومعالجة المشكلات وذلك قبل إصدار هذا البحث للناس.
في الوقت الذي تنتشر فيها الأخبار المقلقة، تأتي أنباء أخرى تزيد من القلق، إذ أعلنت أوبن أيه آي مؤخرًا عن إغلاق برنامجها للحفاظ على أمان الذكاء الاصطناعي.
هذا يثير الشكوك حول مدى الالتزام الحقيقي لشركة أوبن أيه آي تجاه أمان المستخدمين، وقد يزيد من مشاعر القلق بخصوص مستقبل الذكاء الاصطناعي والخطر الذي يشكله على البشرية، وإن كانت الشركة غير قادرة على التمييز بين البوت والمحتوى من صنع الإنسان.
اقرأ أيضًا:
باحثون يطورون برنامج الدردشة شات جي بي تي بجعله يتعلم من أخطائه!
ثورة في عالم الذكاء الاصطناعي: الجيل الرابع من شات جي بي تي
ترجمة: محمد حسام
تدقيق: بشير حمّادة
