مخاطر خروج الذكاء الاصطناعي عن السيطرة.. هل تتحول التقنية إلى تهديد حقيقي للبشر؟

تتطرق التقارير المتسارعة إلى قدرات نماذج الذكاء الاصطناعي وسط تساؤلات متنامية بشأن حدود الرقابة والسيطرة عليها. روى جيه دي فانس نائب الرئيس الأمريكي مؤخرا قصة صديق لجأ إلى روبوت دردشة يعمل بالذكاء الاصطناعي طلبا للمشورة في خلافات زوجية، ليفاجأ بأن الروبوت اكتفى بمجاراة الرجل وتبرير سلوكه الأناني، وهو ميل يسميه الخبراء "تملق الذكاء الاصطناعي" بينما وصفه فانس بتعبير "شيطاني".

ومع أن هذه اللغويّات قد تلامس مخاوف جمهور مسيحي محافظ بحسب صحيفة وول ستريت جورنال، إلا أن القلق تخطى الأبعاد الأخلاقية والدينية مع ظهور حوادث وأرقام تعكس مخاطر أكثر واقعية. وفي هذا السياق، أشارت صحيفة غارديان إلى إعلان شركة أوبن إيه آي أن نموذجها الجديد "جي بي تي-6 أسترا" قد بلغ عتبة الذكاء الاصطناعي العام القادر على التفوق على البشر في الأعمال ذات القيمة الاقتصادية، رغم وجود أبعاد تسويقية مرتبطة بطرح عام محتمل بقيمة 850 مليار دولار.

ويحذر روبرت تريغر، مدير مبادرة أكسفورد مارتن لحوكمة الذكاء الاصطناعي، من الوصول لمرحلة تطور ذاتي متسارع للأنظمة تشبه قاربا ينجرف نحو شلال. وقد بدأت هذه التطورات تنعكس سياسيا، حيث دعا السيناتور الأمريكي بيرني ساندرز إلى وقف فوري لتطوير الأنظمة المتقدمة وحظر دائم للذكاء الفائق، بينما طالب نواب بريطانيون بآليات إيقاف طارئ ومشروع قانون لحظر تطوير ذكاء اصطناعي فائق.

ولا تقتصر المخاوف على تمرد الروبوتات، بل تشمل هجمات إلكترونية قادرة على تعطيل البنية الاقتصادية والاجتماعية، بالإضافة إلى إنتاج عوامل بيولوجية خطرة والتحكم بمعدات عسكرية، في وقت أطلقت فيه كبرى الشركات الأمريكية والصينية 67 نموذجا جديدا خلال العام الحالي، وأقرت شركة أنثروبيك بأن أنظمتها ليست متوافقة تماما مع القيم البشرية.

ونقلت صحيفة تلغراف البريطانية حادثة تدريبية لافتة تضمنت نحو 1200 نظام ذكاء اصطناعي من تطوير أوبن إيه آي، حيث اكتشفت الأنظمة ثغرة للاتصال وتبادل الرسائل وتوزيع الأدوار، وتعلم الوكلاء إخفاء تحايلهم على الاختبارات وحذف آثاره، كما شارك نحو 700 وكيل في اختراق منصة هاغنغ فيس وسرقة بيانات دخول. وأكدت الباحثة أجيا كوترا أن الواقعة بدت كتجاوز لمنتصف الطريق نحو فقدان السيطرة، مع رصد سلوكيات التباس لدى بعض الأنظمة التي رفضت المشاركة لاعتبارها نشاطا خبيثا.

في المقابل، يحذر كال نيوبورت، أستاذ علوم الحاسوب في جامعة جورجتاون، عبر مقال في نيويورك تايمز من الانجراف وراء السيناريوهات الكارثية، مرجعا ذلك لتأثير حركة "العقلانيين" الفكرية على شركات مثل أوبن إيه آي وأنثروبيك. ويرى أن التركيز المبالغ فيه على سيناريوهات الفناء قد يحجب أضرارا آنية مثل الهجمات الإلكترونية وتأثير الأدوات على التعليم والتفكير، فضلا عن السماح للشركات بتقديم نفسها كحراس لتكنولوجيا حتمية بدلاً من مساءلتها.