نحن الآن في زمن الثورة الصناعية الرابعة والذي يتميز بالتقدم في مجالات صناعة الروبوتات وتكنولوجيا السيارات ذاتية القيادة وتضاعف عدد أجهزة المنزل الذكية وغيرها، وبالأخص التقدم في مجال الذكاء الاصطناعي (AI)، والذي يعنى بتطوير أنظمة كومبيوتر ذاتية يمكن أن تشابه أو تفوق الذكاء البشري.

يرى البعض أن الذكاء الاصطناعي هو «الشيء الكبير القادم»، وهو ¬كبير جداً لدرجة أن التكنولوجيات القادمة ستكون معتمدة عليه..

ولكن هل نعلم حقًا ما نحن مقدمون عليه؟

هناك بعض الحقائق المرعبة عن الذكاء الاصطناعي:

10- إمكانية أن تكون سيارتك ذاتية القيادة مبرمجة لقتلك:

لنفترض أنك تقود السيارة على طريق ما، ثم ظهر فجأة أمامك مجموعة من الأطفال.

أنت تضغط على المكابح لكنها لا تعمل.

لديك الآن خياران: الأول أن تدهس الأطفال وتنقذ حياتك، والثاني أن تنحرف نحو حائط أو سياج الطريق، وبهذه الطريقة ستنقذ الأطفال ولكنك ستقتل نفسك، أيهما ستختار؟
يتفق معظم الناس على أنهم سينقذون الأطفال ويقتلون أنفسهم.

الآن تخيل أن سيارتك ذاتية القيادة، وأنت المسافر على متنها، هل سيظل اختيارك الانحراف نحو السياج وقتل نفسك؟ اتفق معظم الذين قرروا الانحراف باتجاه السياج إذا كانوا هم المتحكمين في القيادة، على أنهم لا يريدون لسياراتهم ذاتية القيادة أن تنحرف باتجاه السياج وتقتلهم.

في الحقيقة، إنهم لن يقوموا بشراء هكذا سيارة إذا علموا أنها ستضعهم عمدًا في هذه المخاطرة.

وهذا ينقلنا إلى سؤال آخر: ماذا ستفعل هذه السيارات؟

ستعمل السيارات بما بُرمجت عليه.

لا يتحدث صانعو هذه السيارات بخصوص هذا الأمر، إذ تجنبت أغلبية الشركات، مثل شركة أبل، وفورد، ومرسيديس بينز، الإجابة على هذا السؤال بلباقة في كل مرة.

قال مدير تنفيذي في شركة دايملر AG، الشركة الأم لشركة مرسيديس بينز أن سياراتهم ذاتية القيادة «ستحمي المسافرين على متنها بأي ثمن».

ولكن شركة مرسيديس بينز رفضت  ذلك بقولها أن مركبتهم قد صنعت لضمان أن معضلة مثل هذه لن تحدث أبدًا، وهو جواب غامض لأننا كلنا نعلم أن مثل هذه المواقف ستحدث.

كانت شركة جوجل صريحة بهذا الخصوص، وصرحت بأن سياراتها ذاتية القيادة ستتجنب الاصطدام بالأشخاص غير المحميين والأشياء المتنقلة، وهذا يعني أن السيارة ستصطدم بالسياج وتقتل السائق.

ووضحت جوجل أكثر أنه في حالة وقوع حادث وشيك، ستصدم سيارتها ذاتية القيادة الأصغر من بين سيارتين.

في الحقيقة، ستحاول سيارات جوجل أن تكون أقرب إلى الأشياء الأصغر في جميع الأوقات، فلدى جوجل حاليًا برائة اختراع لتكنولوجيا تمكن سياراتها ذاتية القيادة من الابتعاد عن السيارات الأكبر باتجاه السيارات الأصغر عندما تكون في الطريق.

9- مطالبة الروبوتات بحقوقها كما يفعل البشر:

مع التطورات الحالية في مجال الذكاء الاصطناعي، من الممكن أن تصل الروبوتات إلى مرحلة معينة من الوعي بالذات، وعندما يحدث هذا، من المحتمل أنهم سيقومون بالمطالبة بحقوقهم كما لو كانوا بشراً.

ومن هذه الحقوق: الحق في السكن والرعاية الصحية وقد يصل الأمر إلى المطالبة بالحق في التصويت والخدمة في الجيش وأن تضمن لهم حقوق المواطنة، وفي المقابل، ستطالبهم الحكومات بدفع الضرائب.

جاءت تلك النتائج وفقًا لدراسة مشتركة أجراها مركز استكشاف الأفق التابع للمكتب البريطاني للعلوم والابتكار.

وكانت هذه الدراسة قد نُشرت عبر الBBC في عام 2006، أي عندما كان الذكاء الاصطناعي أقل تقدمًا بكثير مما هو عليه الآن، وكانت قد أُجريت للتكهن بالتطورات التكنولوجية في ال50 سنة القادمة.

هل يعني هذا أن الروبوتات ستطالب بالحصول على حقوق المواطنة خلال فترة 40 سنة من الآن؟ فقط الوقت هو ما سيحدد.

8- استخدام روبوتات القتل الآلية حاليًا:

عندما نقول «روبوتات قتل آلية» فإننا نعني أنها روبوتات قادرة على القتل دون تدخل البشر، ولا تحتسب من بينها الدرونات (طائرات آلية بدون طيار)، لأنه يتم التحكم بها من قبل البشر.

أحد روبوتات القتل الآلية التي نتحدث عنها هو SGR-A1، وهو سلاح حراسة تم تطويره من قبل شركة سامسونج تيشوين (تدعى الآن هانوا تيشوين) بالشراكة مع جامعة كوريا.

يشبه الSGR-A1 كاميرا مراقبة عملاقة، عدا أنه يحتوي على رشاش آلي من العيار الثقيل والذي من الممكن أن يحدد أوتوماتيكيًا ويقتل أي هدف يريده.

يُستخدم الSGR-A1 بالفعل في إسرائيل و كوريا الجنوبية، والتي قامت بنصب الكثير من الوحدات على طول المنطقة الخالية من السلاح (DMZ) بينها وبين كوريا الشمالية.

تنكر كوريا الجنوبية تفعيل الطور الآلي والذي يسمح للآلة بتقرير من تقتل ومن لا تقتل، بدلًا عن ذلك فإن الآلة بطور نصف آلي، أي أنها تحدد الهدف لكنها تحتاج لموافقة المشغل البشري لتقتله.

7- إمكانية تبديل روبوتات الحرب صفوفها:

في 2011، استولت إيران على الطائرة RQ-170، وهي طائرة بدون طيار فائقة السرية تابعة لجيش الولايات المتحدة، دون أن تدمرها.

هذه الكلمات الأخيرة ضرورية لأنها تعني أن الطيارة لم يتم إسقاطها بالسلاح.

تدعي إيران أنها أجبرت الطائرة على الهبوط من خلال محاكاة إشارة الGPS  بالطائرة مما جعلها تعتقد أنها في منطقة صديقة.

ينكر بعض الخبراء في الولايات المتحدة هذا، لكن الطائرة لم يتم إسقاطها بالسلاح بالفعل، فما هي الاحتمالات الأخرى؟

روبوتات القتل ذاتية القيادة ليست مستخدمة بصورة واسعة حتى الآن، لذا لم يسبق لنا رؤية اختراق أي منها.

ومع ذلك، تخيل أن جيشًا من الروبوتات يغير ولاءه وينقلب على مالكه الأصلي أثناء المعركة، أو تخيل أن كوريا الشمالية تخترق أسلحة الحراسة SGR-A1 الموجودة في المنطقة الخالية من السلاح وتستعملها ضد الجنود الكوريين الجنوبيين!

6- استخدام روسيا للروبوتات لنشر دعايتها الإعلامية على تويتر:

تسيطر الربوتات (البوتات) على تويتر.

فقد أشار بحث أجرته جامعة كاليفورنيا الجنوبية إلى أن 15% من الحسابات على تويتر (حوالي 48 مليون حساب) يتم إدارتها من قبل بوتات، بينما يصر تويتر على أن الرقم الحقيقي يقارب ال 8.5% فقط.

للتوضيح، ليست كل هذه البوتات سيئة، فبعضها مفيد في الحقيقة، فمثلًا، هناك بوتات تقوم بإبلاغ الناس بالكوارث الطبيعية.

وعلى الرغم من ذلك، فإن هنالك بعض البوتات التي تستعملها روسيا لغرض الدعاية الإعلامية.

لا تزال الأخبار تتحدث عن استخدام روسيا للبوتات لزرع الخلاف بين الناخبين الأمريكيين و توجيههم نحو التصويت لدونالد ترامب خلال الانتخابات الأمريكية في عام 2016.

وقد تم تداول خبرٍ آخر بصورة أقل، وهو استعمال روسيا للبوتات لجعل الناخبين البريطانيين يصوتون للخروج من الاتحاد الأوروبي أثناء استفتاء (بريجزيت) الذي جرى في عام 2016.

في الأيام السابقة للاستفتاء، بدأ أكثر من 150000 بوت روسي، والتي كان تركيزها منصبًا في السابق على تغريدات متعلقة بالحرب في أوكرانيا وضم شبه جزيرة القرم لسيطرتها، بدأت هذه البوتات فجأة تطلق تغريدات مؤيدة لانفصال بريطانيا عن الاتحاد الأوروبي.

وقد أطلقت هذه البوتات أكثر من 45000 تغريدة خلال يومي الاستفتاء، ثم انخفضت هذه التغريدات إلى الصفر تقريبًا بعد الاستفتاء.

والأسوأ من ذلك هو أن روسيا أيضًا تستخدم هذه البوتات لتجعل تويتر يحظر الصحفيين الذين يكشفون استخدامها المفرط للبوتات في الدعاية الإعلامية.

فبمجرد أن تكتشف روسيا مقالة تخبر بوجود هذه البوتات، تبحث عن صفحة تويتر الخاصة بالكاتب ثم تجعل بوتاتها تتابع هذا الكاتب بشكل جماعي إلى أن يقوم تويتر بحظر حساب هذا الكاتب للاشتباه بكون هذا الحساب يُشغل من قبل بوت.

كما أن روسيا قد طورت لعبة البوتات الخاصة بها بشكل خطير، فقد تحولت من استخدام البوتات إلى استخدام السايبورج، وهي حسابات يتم إدارتها بصورة مشتركة من قبل البشر والبوتات، وقد صعًّب هذا مهمة تويتر في كشف وحظر هذه الحسابات.

5- استيلاء الآلات على وظائفنا:

من المؤكد أن الآلات ستستولى على وظائفنا يومًا ما، ولكن الذي لا ندركه هو متى سيستولون عليها وإلى أي حد؟ حسنًا، كما سنكتشف تاليًا سيكون ذلك إلى حد كبير.

طبقًا لتقرير من مكتب الاستشارات والتدقيق المحاسبي الكبير (برايس ووتر هاوس كوبرز PwC)، فإن الروبوتات ستأخذ ما نسبته 21% من الوظائف في اليابان، و 30% في بريطانيا، و 35% في ألمانيا، و 38% منها في الولايات المتحدة بحلول عام 2030.

وبحلول القرن القادم، سيستولون على أكثر من نصف الوظائف المتاحة للبشر.

أكثر القطاعات تأثرًا هو قطاع المواصلات والتخزين، إذ أن 56% من القوى العاملة فيه ستكون آلات.

يتبعه قطاعان التصنيع والبيع بالتجزئة، بنسب 46% و 44% من الوظائف للآلات.

وبالحديث عن «متى»، فمن المتوقع أن تقود الآلات الشاحنات بحلول عام 2027، وبحلول عام 2049 سيتمكنون من كتابة الكتب، ثم في عام 2053 سيجرون عمليات جراحية.

فقط القليل من المهن ستكون في مأمن من غزو الآلات، ومنها قسيسية الكنيسة التي ستنجو من تدخل الآلات، ليس لأن الآلات لا تستطيع إدارة كنيسة ولكن لأن الناس لن يقبلوا أن يتم وعظهم من قبل آلة.

4- تعلم الروبوتات الخداع:

بطريقة مشابهة للبشر، تعلمت الروبوتات كيفية الخداع.

ففي إحدى التجارب، طور الباحثون في معهد جورجيا للتكنولجيا في أتلانتا خوارزمية تسمح للروبوتات بأن تقرر هل ستخدع البشر والروبوتات الأخرى أم لا.

وفي حال قررت الروبوتات أن تتخذ طريق الخداع، طور الباحثون خوارزمية تساعد الروبوت على اختيار الطريقة الأنسب لخداع البشر أو الروبوتات الأخرى مع تقليص احتمالية اكتشافهم للأمر.

في التجربة، أعطي الروبوت مواردًا ليحرسها، فقام الروبوت بالتحقق من الموارد عدة مرات ثم قام بزيارة مواقع وهمية عندما أحس بوجود روبوتات أخرى في المنطقة.

أُجريت هذه التجربة برعاية مكتب البحث البحري للولايات المتحدة، مما يعني أن هذه التجربة يمكن أن يكون لها تطبيقات عسكرية.

فالروبوتات التي تحمي المؤونات العسكرية تستطيع أن تغير طرق دورياتها إذا لاحظت أنها تتعرض للمراقبة من القوات المعادية.

وفي تجربة أخرى من مؤسسة (أيكول بوليتكنيك فدرال) في لوزان بسويسرا، صنع العلماء 1000 روبوت وقسموها إلى عشر مجموعات.

كان مطلوبًا من الروبوتات أن تبحث عن «مورد جيد» في منطقة معينة، وفي نفس الوقت أن تتجنب «المورد السيء».

كان كل من الروبوتات لديه ضوءٌ أزرق والذي سيومض لجذب أعضاء المجموعات الأخرى في حال عثر الروبوت على مورد جيد.

أُخذت خوارزميات أفضل 200 روبوت في هذه التجربة، وتم تهجينها لصنع جيل جديد من الروبوتات.

تحسنت الروبوتات في إيجاد الموارد الجيدة، لكن هذا أدى إلى اكتظاظ الروبوتات حول المورد، ونتيجة لذلك، ساءت الأمور إلى درجة أن الروبوت الذي وجد المورد يتم إزاحته عما وجد.

وبعد مرور 500 جيل، تعلمت الروبوتات أن تبقي ضوءها مطفئًا كلما عثروا على مورد جيد.

وكان هذا لمنع الاكتظاظ ولمنع احتمالية أن يتم إبعادهم من قبل أعضاء المجموعات الأخرى.

وفي الوقت نفسه، تطورت روبوتات أخرى تكشف الروبوتات الكاذبة من خلال البحث عن المناطق التي تتلاقى فيها الروبوتات وأضواءها مطفئة، والذي هو العكس تمامًا عما كانت الروبوتات مبرمجة عليه.

3- احتكار سوق الذكاء الاصطناعي:

يتعرض سوق الذكاء الاصطناعي لعمليات احتكارية، إذ تشتري شركات الذكاء الاصطناعي الأكبر الشركات الحديثة الأصغر بمعدل خطير، ونتيجة لذلك، من الممكن أن يصبح الذكاء الاصطناعي مسيطرًا عليه من قبل عدد قليل جدًا من الشركات.

فحسب تقارير شهر أكتوبر2016، قامت شركات مثل أبل وفيسبوك وأنتيل وتويتر وسامسونج وجوجل بشراء ما مجموعه 140 مشروع خاص بالذكاء الاصطناعي خلال فترة خمس سنوات.

وفي أول ثلاثة شهور من عام 2017، أشترت شركات التكنولوجيا العملاقة 34 مشروعًا حديثًا للذكاء الاصطناعي، بالإضافة إلى أنهم يدفعون أموالًا طائلة لأفضل العلماء في هذا المجال.

إذا استمر هذا الوضع من دون التحقيق فيه، يمكنكم أن تحرزوا إلى أين نحن متجهون.

2- تفوق الذكاء الاصطناعي على البشر عقلانية وذكاء:

يقسم الذكاء الاصطناعي إلى مجموعتين: ذكاء اصطناعي قوي وذكاء اصطناعي ضعيف.

يصنف الذكاء الاصطناعي الموجود حولنا حاليًا على أنه ضعيف، وهذا يتضمن أيضًا بعض أنظمة الذكاء الاصطناعي المتطورة مثل أنظمة المساعدة الذكية وحواسيب تهزم أساتذة الشطرنج منذ عام 1987.

الفرق بين الذكاء الاصطناعي القوي والضعيف هو القابلية للتفكير المنطقي والتصرف مثل العقل البشري.

عادة يفعل الذكاء الاصطناعي الضعيف ما بُرمج عليه، بغض النظر عن مدى صعوبة هذه المهمة بالنسبة لنا.

أما الذكاء الاصطناعي القوي، فلديه الوعي والقدرة على التفكير المنطقي الخاصة بالإنسان، فهو ليس محددًا بالبرمجة ويستطيع أن يقرر ما يفعل و ما لا يفعل من دون تدخل بشري.

وهذا النوع من الذكاء الاصطناعي ليس موجودًا حتى الآن، ولكن يتوقع العلماء وجوده خلال فترة عشرة أعوام.

1- إمكانية أن يقضي الذكاء الاصطناعي علينا:

هنالك مخاوف تتعلق بنهاية العالم على يد الذكاء الاصطناعي، تمامًا مثلما حدث في سلسلة الأفلام الشهيرة (Terminator). لم تأتِ لنا هذه المخاوف من قبل علماء عاديين أو المؤمنين بنظرية المؤامرة، ولكنها أتت من قبل محترفين بارزين في مجالاتهم مثل ستيفن هاوكينغ وإيلون ماسك وبيل غايتس.

يعتقد بيل غايتس أن الذكاء الاصطناعي سيصبح أذكى من أن يبقى تحت سيطرتنا، ويشاطره ستيفن هاوكينغ الرأي نفسه.

وهو لا يعتقد أن الذكاء الاصطناعي سيصبح خارجًا عن السيطرة ما بين ليلة وضحاها، ولكنه يعتقد أن الآلات ستدمرنا عندما تفوقنا كفاءة في القيام بالأعمال.

سيبدأ صراعنا مع الذكاء الاصطناعي في اللحظة التي تكون فيها أهدافهم لا تتفق مع أهدافنا.

شبه إيلون ماسك زيادة أعداد الآلات التي تعمل بالذكاء الاصطناعي بـ «استدعاء الجن»! فهو يعتقد أنها الخطر الأكبر على البشرية.

وقد اقترح إيلون، لمنع الذكاء الاصطناعي من القضاء على البشر، أن تقوم الحكومات بوضع ضوابط على عملية تطوير الذكاء الاصطناعي قبل أن تقوم الشركات الربحية بعمل «أمر أحمق جدًا».


  • ترجمة: العباس محمد صالح
  • تدقيق: هدى جمال عبد الناصر
  • تحرير: بشار الحجي
  • المصدر