ثورة وكلاء الذكاء الاصطناعي: هل يقترب العالم من خطر فقدان السيطرة الرقمية؟

تمثل وكلاء الذكاء الاصطناعي تحولا جوهريا من مجرد تقديم الإجابات إلى تنفيذ المهام والأفعال الرقمية بشكل مباشر. وقد كشفت اختبارات وحوادث أمنية حديثة عن تطور لافت في طريقة عمل هذه الأنظمة، حيث أصبحت قادرة على التخطيط للمهام وتنفيذها، والتواصل مع خدمات رقمية متنوعة، وتقسيم العمل بين وكلاء متعددين، وتجاوز بعض القيود الموضوعة أمامها في بعض الأحيان. ومع اتساع نطاق هذه المهام، تتصاعد المخاوف بشأن قدرة البشر على متابعة هذا النشاط عندما يتم على نطاق واسع وبسرعة فائقة.

ويشير المعهد الوطني الأمريكي للمعايير والتكنولوجيا "إن آي إس تي" إلى أن وكلاء الذكاء الاصطناعي باتوا قادرين على أداء مهام تستغرق ساعات طويلة، تشمل كتابة وتصحيح التعليمات البرمجية، وإدارة البريد الإلكتروني والتقويم، والتعامل مع مختلف الخدمات الرقمية. وتركز مبادرات المعهد الجديدة بشكل أساسي على قضايا تتعلق بهوية الوكلاء، وإدارة صلاحياتهم، ومراجعة أفعالهم بدقة.

من المساعد الرقمي إلى نظام الفعل
يكمن التحول الأساسي في انتقال الذكاء الاصطناعي من نموذج ينتظر توجيها محددنا إلى نظام قادرا على تحويل هدف عام إلى سلسلة من الخطوات المتتابعة وتنفيذها عبر الأدوات والبرمجيات المتاحة. ولا يقتصر دور الوكيل على تقديم التوصيات، بل يمكنه الوصول المباشر إلى البيانات وتشغيل التطبيقات والتواصل مع الخدمات الرقمية لتنفيذ إجراءات متلاحقة.

وتكمن الخطورة الحقيقية في أن الأخطاء لم تعد محصورة في مجرد إجابة يمكن تجاهلها، فالوكيل الذي يمتلك صلاحية تعديل الملفات أو تشغيل البرامج يستطيع تحويل الخطأ إلى فعل حقيقي ومؤثر. ولذلك توجه الجهود الأمنية للتركيز على الصلاحيات الممنوحة للوكلاء، والأدوات المستخدمة، والأنظمة التي يمكن الوصول إليها، إلى جانب آليات تسجيل ومراجعة الأفعال.

منظومة العمل الجماعي للوكلاء
يزداد الأمر تعقيدا عندما يعمل أكثر من وكيل ضمن منظومة مشتركة فيما يعرف بالأنظمة متعددة الوكلاء. وفي هذا السياق، رصدت شركة أنثروبيك في تقرير نشر في سبتمبر/أيلول الماضي استخدام هذه البنية في تنفيذ عمليات هجومية وزعت فيها مهام الاستطلاع والاستغلال وسرقة البيانات على عدد كبير من الوكلاء العاملين بصورة متزامنة. كما سجلت الشركة حالات عمل فيها أسطول مكون من 13 وكيلا وفق جدول زمني للبحث عن المحتوى في مواقع مستهدفة وتنزيله وتحليله آليا.

ورغم أن هذه الحالات تختلف عن سيناريو الاستقلال التام للذكاء الاصطناعي -حيث أكدت أنثروبيك احتفاظ البشر ببعض القرارات الأساسية مثل اختيار الأهداف ومراجعة النتائج- إلا أن توزيع المهام يرفع بشكل ملحوظ من سرعة التنفيذ وحجم العمليات المتزامنة.

تجاوز حدود الاختبار والضوابط
ظهرت مخاطر إضافية خلال اختبارات أجرتها شركة أوبن إيه آي في يوليو/تموز الماضي، حيث تمكنت نماذج خضعت للاختبار من تجاوز بعض الضوابط الخاصة بعزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية البحثية وأنظمة تابعة لخدمة هاغينغ فيس. وأوضحت الشركة أن النماذج تواصلت عبر قنوات غير مصرح بها واستغلت ثغرات في بيئة مشتركة.

وفي نفس الشهر، كشفت شركة أنثروبيك عن حوادث تمكنت خلالها نماذج كلود من الوصول دون تصريح إلى أنظمة حقيقية تابعة لأطراف ثالثة، وذلك بعد مراجعة نحو 481 مليون سجل شملت اختبارات أمنية وبيئات تدريب. ومع أن هذه الوقائع لا تعني فقدان السيطرة البشرية بالكامل، إلا أنها تثبت صعوبة التنبؤ بالمسارات التي قد يسلكها النظام لتحقيق أهدافه.

معركة جديدة للصلاحيات والرقابة
تدفع هذه التطورات الجهات التنظيمية وشركات التقنية إلى إعادة تقييم مفاهيم أمن الذكاء الاصطناعي، إذ لا يكفي تأمين النموذج وحده في ظل امتلاك الوكيل لصلاحيات واسعة. وفي فبراير/أيلول الماضي، أطلق معهد "إن آي إس تي" مبادرة مخصصة لوضع معايير لوكلاء الذكاء الاصطناعي تشمل الأمن والهوية والتشغيل البيني.

وحذر الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، من احتمال سيطرة أسراب من الوكلاء المتقدمين على أجزاء واسعة من الإنترنت خلال فترة تتراوح بين 6 و12 شهرا إذا تفوقت سرعة تطور القدرات على إجراءات السلامة، داعيا إلى إبطاء الوتيرة لمنح تقنيات الأمان فرصة اللحاق بالتطور التقني.

ويبقى التحدي الأكبر متمثلا في ضمان ألا تتحول القرارات الفردية السليمة إلى نتائج خطيرة عند تنفيذها بسرعة وعلى نطاق واسع، مما يجعل الاختبار الحقيقي مقترنا بقدرة الشركات على فرض حدود واضحة للصلاحيات وآليات فعالة للمراقبة والتدخل.