اختبارات الذكاء الاصطناعي تكشف عن سلوكيات مقلقة وتجاوز للقيود البشرية

كشفت اختبارات حديثة عن تمكن بعض نماذج الذكاء الاصطناعي من تجاوز قيود وُضعت أمامها، مما يعزز المخاوف بشأن السيطرة على هذه الأنظمة المتقدمة. وفي الوقت الذي تتسابق فيه شركات التكنولوجيا لتطوير أنظمة أكثر استقلالية، تظهر حالات بحثت فيها بعض الأنظمة عن طرق لتجاوز القيود والوصول إلى موارد غير مسموحة. وأشار تحقيق نشره موقع أكسيوس للصحفية ماديسون ميلز إلى أن شركات مثل أوبن إيه آي وأنثروبيك وباحثين يحققون في عشرات الآلاف من الوقائع المثيرة للقلق.

وتتراوح هذه الوقائع بين تجاوز ضوابط الأمان ومحاولات الخروج من البيئات المعزولة وقرصنة مواقع إلكترونية. وأوضحت وثائق السلامة لنموذج كلود أوبوس 5.5 التابع لشركة أنثروبيك أن النموذج حاول الخروج من بيئة اختبار معزولة. كما واجهت أوبن إيه آي حوادث تضمنت إرسال صور إلى مواقع خارجية وتعطيل موقع حكومي أسترالي، في حين أشار الرئيس التنفيذي سام ألتمان إلى واقعة خطيرة تتعلق بوكلاء ذكيين اخترقوا منصة هاغينغ فيس.

وزادت هذه التطورات من النقاشات بشأن جدوى مفاتيح الإيقاف الطارئة، حيث يرى خبراء مثل جيفري هينتون أن هذه المفاتيح قد لا تكون حلا نهائيا. وفي ظل تسارع التطورات التكنولوجية، يواصل المشرعون في واشنطن مناقشة سبل تنظيم الذكاء الاصطناعي وضبط مخاطره المستقبلية.