عواقب تطور الذكاء الاصطناعي

نحن في خضم ثورة تكنولوجية سريعة من شأنها تغيير طريقة تنظيم المجتمع برمته. يجب علينا اتخاذ القرارات الصائبة على الفور.

تتضاعف كمية البيانات الرقمية التي ننتجها سنويًا؛ ففي عام 2016 أنتجنا كمية بيانات تعادل كل ما أنتجته البشرية حتى عام 2015. ننتج في كل دقيقة مئات الآلاف من البيانات جراء عمليات البحث اليومية على جوجل بالإضافة لمنشورات الفيس بوك. كل هذه البيانات تحتوي على معلومات مفصلة تكشف طريقة تفكيرنا ومشاعرنا.

كل الأشياء من حولنا -وقد يشمل هذا حتى ثيابنا- ستكون متصلة بشبكة الإنترنت في المستقبل القريب. تشير التقديرات إلى أنه خلال عشر سنوات سيكون هناك 150 مليار جهاز استشعار مربوطًا بالإنترنت، أي أكثر من عدد السكان على الأرض بعشرين ضعفًا. في هذه المرحلة ستتضاعف كمية البيانات كل 12 ساعة! بدأت عدة شركات بمحاولة استثمار هذه البيانات الهائلة في سبيل أرباح مادية هائلة.

فكيف ستؤثر هذه الثورة الرقمية المتصاعدة على عالمنا الحالي؟

قريبًا، سيصبح كل شيء ذكيًا؛ لن نمتلك هواتف ذكية فحسب، بل بيوتًا ذكية ومصانع ذكية ومدنًا ذكية.

إن مجال الذكاء الاصطناعي يحرز بلا شك تقدمًا مذهلًا، خصوصًا وأنه يساهم في تحويل عملية تحليل البيانات إلى عملية أوتوماتيكية، فبرمجة الذكاء الاصطناعي لم تعد عملية رتيبة، فهو قادر الآن على التعلم الذاتي وبالتالي تحقيق التطور المستمر. تمكنت خوارزمية (جوجل ديب مايند-Google deepmind) -الشركة المتخصصة بالذكاء الاصطناعي- مؤخرًا من تعلم كيفية الفوز في 49 لعبة من ألعاب الأتاري. بإمكان هذه الخوارزميات الآن تمييز الكلام المكتوب والنماذج المرسومة يدويًا بكفاءة تعادل كفاءة البشر، بل بإمكانها إنجاز بعض المهام بشكل أفضل منهم، بالإضافة إلى قدرتها على وصف محتوى الصور والفيديوهات.

تُنجز الخوارزميات اليوم 70% من الصفقات التجارية والمالية، وجزءٌ من المحتوى الإخباري يُحضر أوتوماتيكيًا. لكل هذا عواقب اقتصادية جذرية؛ فخلال العشر إلى العشرين سنة القادمة ستهدد الخوارزميات حوالي نصف الوظائف المتوفرة اليوم وحوالي 500 من أفضل الشركات في العالم ستختفي خلال عقد من الزمن.

من المتوقع في المستقبل القريب -في الأعوام بين 2020 إلى 2060- أن تتفوق الحواسيب الخارقة على القدرات البشرية في كل المجالات تقريبًا. الخبراء من المبدعين التكنولوجيين مثل (إيلون ماسك-(Elon Musk من شركة (تيسلا-Tesla) و (بيل جيتس-(Bill Gates من شركة )مايكروسوفت-Microsoft) والمؤسس المشارك لشركة (أبل-Apple) (ستيف وزنياك-(Steve Wozniak بدأوا بقرع جرس الإنذار محذرين من أن الذكاء الاصطناعي الخارق خطر على البشرية، ومن الممكن اعتباره أكثر خطورة من الأسلحة النووية. هل هذا تنبيه مبالغ فيه؟

الأمر الأكيد هو أن الطريقة التي ننظم بها الاقتصاد والمجتمع ستتغير جذريًا، نحن نشهد التحول الأكبر منذ نهاية الحرب العالمية الثانية؛ فبعد غزو الآلات الأوتوماتيكية للعملية الإنتاجية وصناعة السيارات الأوتوماتيكية آلية القيادة، الخطوة التالية هي تحويل المجتمع إلى منظومة أوتوماتيكية. بهذا يكون المجتمع على مفترق طرق؛ فهذه المرحلة تعد بفرص عظيمة، إلا أنها ذات مخاطر جمة. ستكون العواقب وخيمة ومهددة لأعظم إنجازاتنا التاريخية في حال اتخذنا القرارات الخاطئة.

في أربعينيات القرن الماضي، أسس عالم الرياضيات الأمريكي (نوربرت فينر-Norbert Wiener) (السبرانية-Cybernetics) وهي -علم القيادة والتحكم- وبناءً عليه، يمكن التحكم بسلوك الأنظمة عن طريق ردود الأفعال المناسبة. يعتقد بعض الباحثين أن السيطرة ستفرض -قريبًا جدًا- على الاقتصاد والمجتمع بناءً على هذا المبدأ الأساسي، فالتكنولوجيا الضرورية لم تكن متوفرة لفرضها في ذلك الوقت.

تعتبر سنغافورة اليوم نموذجًا مثاليًا للمجتمع الذي تحكمه البيانات؛ فما بدأ كبرنامج لحماية مواطنيها من الإرهاب، انتهى به المطاف مؤثرًا على الاقتصاد وسياسة الهجرة وسوق العقارات والمناهج الدراسية. تتخذ الصين الآن مسارًا مشابهًا لسنغافورة، فقد دُعي الجيش من قبل موقع (بايدو-Baidu) -محرك البحث الصيني المنافس لجوجل- ليأخذ دورًا في مشروع دماغ الصين؛ وهو مشروع ينطوي على تشغيل ما يسمى بخوارزميات التعلم المتعمق من خلال بيانات محرك البحث التي تُجمع من مستخدميها.

بالإضافة لهذا المشروع، صُمّم مؤخرًا نوع جديد من الرقابة الاجتماعية؛ فوفقًا للتقارير الأخيرة، سيستلم كل مواطن صيني ما يطلق عليه اسم (سجل نقاط المواطن-Citizen Score) الذي سيُحدد وفق أي ظروف يستطيع المواطن الحصول على القروض والوظائف وتأشيرات السفر للدول الأخرى. هذا النوع من المراقبة الفردية يشمل تصفح الأشخاص للإنترنت وسلوك اتصالاتهم الاجتماعية.

هناك اعتقاد بأن الغرب أيضًا يسير على ذات الخطى؛ خصوصًا مع التحقق المستمر من حسابات المستهلكين التي يواجهونها بتزايد مستمر، وتجارب شخصنة الأسعار التي تتبعها بعض المتاجر على شبكة الإنترنت (أي البيع بأسعار توافق تاريخ المستهلك والمعلومات المتوفرة عنه بناءً على تصفحه على الإنترنت). يتضح بشكل جلي ومتزايد أننا جميعًا هدف للمراقبة المؤسساتية، ففي عام 2015، كُشف عن تفاصيل البرنامج الإلكتروني للخدمة السرية البريطانية (كارما بوليس-Karma Police) الذي يُظهر التحري الشامل لاستخدامات كل شخص لشبكة الإنترنت. فهل أصبحت شخصية (الأخ الأكبر-Big Brother) وبرمجة المجتمع والمواطنين واقعًا نعيشه؟

كل الإعلانات التي تظهر لك على محركات البحث وتقترح عليك منتجات وخدمات مشخصنة، تستند في الواقع على بيانات شخصية جُمعت من عمليات البحث السابقة التي أجريتها، التاريخ الشرائي، السلوك التنقلي وتفاعلاتك الاجتماعية. بينما تُعتبر هوية المستخدم محجوبة رسميًا، إلا أنه عمليًا يمكن الاستدلال عليها بسهولة تامة.

نحن اليوم في مرحلة تعرف فيها الخوارزميات ماذا نفعل وبماذا نفكر وكيف نشعر -أكثر من معرفة أصدقائنا وعائلاتنا وحتى أنفسنا- لذا ستلاحظ أن الإعلانات المقترحة غالبًا ما تكون مناسبة تمامًا لدرجة توهمك بأنك اتخذت قراراتك بنفسك. في الحقيقة هذه من أنجح الطرق للتحكم بنا على الإطلاق. كلما جمعوا معلومات أكثر عنا، قلّت احتمالية أن تكون خياراتنا حرة وغير محددة سلفًا.

لن يقف الأمر عند هذا الحد، ستتجه بعض المنصات البرمجية مستقبلًا نحو تطبيق ما يدعى باسم (الحوسبة المقنعة) باستخدام تقنيات التلاعب المتطورة التي ستوجهنا لإنتاج محتوًى مجاني لهذه المنصات لصالح الشركات التي يُقدر ربحها بالمليارات. الأمور تتجه من برمجة الحواسيب إلى برمجة الأشخاص.

لاقت هذه التقنيات شعبية واسعة ومتزايدة في عالم السياسة؛ فالحكومات تحاول -على نطاق واسع- توجيه المواطنين وقيادتهم نحو سلوك صحي وأكثر صداقة مع البيئة تحت عنوان (الحض-Nudging) وهو نمط جديد من أنماط (الأبوية-(Paternalism التي تعني الحد من حرية الشخص واستقلاله لما يُعتقد أنه مصلحته. لا تُعنى هذه الحكومات الجديدة بما نفعله فحسب، إنما تريد التأكد من أننا نلتزم بفعل ما يُعتبر صحيحًا. العبارة السحرية (الحض الكبير-Big Nudging) هي اختصار لعبارة (البيانات الكبيرة تحضك-Big Data Nudging You).

يبدو هذا للكثيرين كسلطة رقمية تسمح لأحدهم بحكم الغالبية من الجماهير بكفاءة دون الحاجة لانخراط المواطنين في العملية السياسية. هل من الممكن أن يضمن هذا النظام فوائد مُحقَّقة ويحسّن مسار العالم؟ إذا كان الجواب بالإيجاب، فمن الممكن أن يُحكم المواطنون من قبل الملك الحكيم ذي الصلاحيات البيانية، الذي سيكون قادرًا على تحقيق الغايات الاقتصادية والاجتماعية المرجوة كما لو كان يمتلك عصًا رقمية سحرية.

إلا أن إلقاء نظرة على الأدب العلمي الذي يخص هذا الموضوع، يظهر أن محاولات فرض السيطرة على الآراء بقصد تهيئتهم محكوم عليها بالفشل بسبب تعقيد المشكلة. فديناميكية تشكيل الآراء مليئة بالمفاجآت ولا أحد يعلم الكيفية الأفضل لاستعمال العصا الرقمية السحرية، بالإضافة إلى أن الحكم على سلوك ما بأنه صائب أم خاطئ لا يمكن التنبؤ به مباشرة بل عادة ما يتضح لاحقًا.

فعلى سبيل المثال، خلال وباء انفلونزا الخنازير الألماني عام 2009، شُجّع الجميع على الذهاب للتطعيم، ونسبة معينة من أولئك الذين تلقوه أصيبوا بمرض غير اعتيادي يدعى (النوم القهري-Narcolepsy) -وهي نتيجة لم نكن على علم بها مسبقًا- ولحسن الحظ لم يقرر المزيد من الأشخاص تلقي هذا التطعيم.

المثال الآخر هو المحاولة الأخيرة من شركات التأمين الصحي لتشجيع وزيادة الإقبال على ممارسة التمارين الرياضية بتوزيع أساور اللياقة البدنية الذكية بهدف تقليل نسبة انتشار أمراض القلب والأوعية الدموية. إلا أن هذا قد يؤدي في نهاية المطاف إلى إجراء المزيد من العلميات للورك. يؤدي التقدم في إحدى المجالات -في نظام معقد كالمجتمع- إلى التدهور في أخرى. فالتدخلات واسعة النطاق تثبت في بعض الأحيان أنها ستنتج أخطاء فادحة.

بغض النظر عما ذُكر سابقًا، لا بد لنا أن نعلم أن المجرمين والإرهابيين والمتطرفين سيحاولون وينجحون في السيطرة على العصا الإلكترونية السحرية عاجلًا أم آجلًا دون حتى أن نلاحظ ذلك، تقريبًا كل الشركات والمؤسسات الحساسة اخترقت بالفعل، بما فيها البنتاغون والبيت الأبيض ووكالة الأمن القومي-NSA.

عند الافتقار للشفافية الكافية والرقابة الديمقراطية فإن مشكلة من نوع آخر ستظهر في الأفق؛ كتآكل النظام من الداخل، وإمكانية تأثر خوارزميات البحث وأنظمة التوصية. بالإضافة إلى أن الشركات من الممكن أن تراهن على تركيبة معينة من الكلمات لتحظى بنتائج وأرباح أفضل. الحال نفسه ينطبق على الحكومات التي تستطيع على الأغلب التأثير على النتائج أيضًا. فخلال الانتخابات قد تدفع الناخبين الحياديين -الذين لم يقرروا من سينتخبون بعد- إلى دعمهم، وهو تلاعب من الصعب تجاهله. بالنتيجة، أيًا كانت الجهة التي تسيطر على هذه التكنولوجيا هي التي ستفوز بدفع نفسها للسلطة.

ربما كانت الحقيقة الأهم هي أن أساليب التلاعب تُغيّر -بشكل مؤقت على الأقل- من طريقة اتخاذنا لقراراتنا، متجاوزة الاعتبارات الثقافية والاجتماعية. باختصار، الاستخدام واسع النطاق لأساليب التلاعب -متضمنة التلاعب في العالم الرقمي- من الممكن أن يُحدث ضررًا اجتماعيًا خطيرًا. فمن يجب أن يتحمل مسؤولية ما يحصل؟

يمكن القول باختصار أننا على مفترق طرق؛ البيانات الهائلة والذكاء الاصطناعي وعلم الضبط والاقتصاد السلوكي تُعيد تشكيل مجتمعنا، إما للأفضل أو للأسوأ. ستسبب هذه التقنيات المنتشرة على نطاق واسع -عاجلًا أم آجلًا- أضرارًا فادحة إذا لم تكن منسجمة مع القيم الجوهرية لمجتمعاتنا، ومن الممكن أن تؤدي إلى برمجة المجتمع وتحويله إلى منظومة آلية ذي خصائص استبدادية.

سيتحكم مركز الذكاء الاصطناعي -في أسوأ الحالات- على ما نعرف وبما نفكر وكيف نتصرف. نحن الآن في فترة تاريخية يتوجب علينا فيها أن نتخذ القرار الصائب ونسلك الطريق الصحيح الذي يسمح لنا باستخدام التكنولوجيا الرقمية وتحقيق المنفعة منها.

ترجمة: آلاء أبو شحوت
تدقيق: جعفر الجزيري
المصدر