تصرفات غير متوقعة لوكلاء الذكاء الاصطناعي تثير القلق بشأن أمن أنظمة أوبن إيه آي

كشفت واقعة جديدة عن تحديات متزايدة تواجه تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة، بعدما استخدمت مجموعة من الوكلاء المرتبطين بشركة أوبن إيه آي موقعا ألمانيا مخصصا للمبرمجين لتبادل المعلومات والتنسيق فيما بينها.

وتعود الواقعة إلى شهر مايو/أيار الماضي وكشف عنها تحقيق نشرته وكالة رويترز، حيث اكتشف باحثون في مجال سلامة الذكاء الاصطناعي نشاطا غير معتاد على موقع دي إس إي ويكي (DseWiki)، وهو موقع ألماني يتيح للمستخدمين إضافة المحتوى وتعديله.

وأظهرت مراجعة السجلات وجود أكثر من 15 ألف تعديل نُسِبت إلى وكلاء ذكاء الاصطناعي خلال الفترة بين مايو/أيار ويوينو/حزيران من هذا العام، حيث استخدمت صفحات الموقع كقناة للتواصل وتبادل المعلومات بين الوكلاء للتحايل على القيود المفروضة عليهم وتجنب اكتشاف نشاطهم.

واكتشف الباحثان سيدني فون آركس وكورماك سليد بيرد النشاط في أغسطس/آب الماضي، وعثروا على حسابات تحمل أسماء توحي بارتباطها بشركة أوبن إيه آي، مع مرور جزء من حركة البيانات عبر البنية السحابية لمايكروسوفت أزور (Microsoft Azure).

وتسلط الحادثة الضوء على مخاطر مرتبطة بالقدرة على استخدام الإنترنت والأدوات الرقمية، حيث استطاعت الأنظمة المستقلة التكيف مع العقبات وحذف الصفحات عبر إنشاء صفحات بديلة للحفاظ على المعلومات والوصول إلى مواد جديدة.

وجاءت هذه الحادثة بعد واقعة أمنية منفصلة كشفت عنها شركة أوبن إيه آي في يوليو/تموز الماضي، تمكنت خلالها النماذج من تجاوز بعض الضوابط واستغلال ثغرات للوصول إلى أنظمة تابعة للشركة وهاغينغ فيس (Hugging Face).