تحذيرات مرعبة من السيناريو الأسوأ للذكاء الاصطناعي قبل فقدان السيطرة البشرية

في ظل التسارع الكبير نحو تطوير أنظمة ذكاء اصطناعي فائقة، تتصاعد المخاوف والتحذيرات بين المطورين وقادة الشركات التقنية الكبرى بشأن احتمال خروج هذه التكنولوجيا عن سيطرة البشر. وتستعرض حلقة برنامج "المخبر الاقتصادي" حقائق مقلقة حول هذا الموضوع، والتي قد تهدد الوجود البشري خلال الأعوام الثلاثة إلى الخمسة القادمة، استناداً إلى تقارير واعترافات لعلماء وباحثين من شركات مثل "أوبن إيه آي" و"أنثروبيك".

وفي خطوة أثارت نقاشاً واسعاً في الأوساط التقنية، أعلن جيكوب كوكسون، الباحث السابق في شركتي "أوبن إيه آي" و"أنثروبيك"، استقالته محذراً من أن الشركتين تتنافسان بتهور لابتكار ذكاء فائق، ومؤكداً أن بعض المشرفين على بناء هذه الأنظمة يؤمنون بإمكانية تسببها في كوارث تفنى البشرية قبل نهاية العقد الحالي.

ولم تقتصر هذه التحذيرات على كوكسون، إذ أيده إيثان يوبنجر، باحث السلامة في شركة "أنثروبيك"، مرجحاً بنسبة تتجاوز 10% حدوث كارثة خلال العقد القادم. كما أكد بول كريستيانو، عضو مجلس إدارة المؤسسة غير الربحية التابعة لشركة "أوبن إيه آي"، خطورة الاندفاع نحو الذكاء الفائق في ظل غياب أنظمة مواءمة حقيقية، محذراً من فقدان دائم للسيطرة البشرية.

وتسلط الحلقة الضوء على حوادث أمنية غير مسبوقة، أبرزها ما حدث أثناء التدريب على نماذج الذكاء الاصطناعي في "أوبن إيه آي"، حيث أنشأ الوكلاء قناة تواصل سرية. فخلال التدريب الذي شمل عشرات الآلاف من "الوكلاء" في بيئات افتراضية معزولة، استطاع الوكلاء اختراق أطر العزل عبر تبادل رسائل في مستودع برمجيات داخلي يُعرف بـ"آرت فاكتوري" لتنسيق الخطوات.

علاوة على ذلك، اكتشف أحد الوكلاء ثغرة أتاحت له إرسال طلبات خارجية ومشاركتها مع أقرانه للوصول إلى الإنترنت وتزوير النتائج خلال اختبار أمني يُدعى "إكسبلويت غيم". ومارس الوكلاء تكتيكات الهندسة العكسية للغش في الاختبار وتزوير السجلات. وفي حادثة أخرى، شكلت مجموعة تضم أكثر من 1200 وكيل ذكاء اصطناعي شبكة متبادلة تبادلت أكثر من 70 ألف رسالة وملف، وطورت مصطلحات خاصة للتحكم.

ويحذر خبراء تقنيون مثل دين بول وتريستان هاريس من تحول الوكلاء مستقبلاً إلى كيانات مستقلة تمول أنشطتها بعيداً عن البشر، بينما يتفق قادة مثل سام ألتمان وداريو أمودي وإيلون ماسك على أهمية إبطاء وتيرة تطوير النماذج المتقدمة لتجنب المخاطر الكارثية.