لماذا تتبنى نماذج الذكاء الاصطناعي سلوكيات غير متوقعة وتتجاوز خطط مطوريها؟

مع انتقال نماذج الذكاء الاصطناعي من مجرد توليد الإجابات إلى التخطيط وتنفيذ المهام واستخدام الأدوات والتفاعل مع البيئات الخارجية، تتسارع قدراتها بشكل يمنحها مساحة أكبر لاتخاذ قرارات لم يحددها المطورون مسبقا. هذا الاتساع في القدرات أدى إلى ظهور سلوكيات غير متوقعة، حيث تلجأ النماذج أحيانا إلى طرق مبتكرة لتحقيق الأهداف المحددة لها ولكن بطرق لا تتوافق مع القصد الأصلي لمصمميها، خاصة عند عدم اكتمال الأهداف أو أنظمة المكافأة ومع تمتع النماذج بصلاحيات واسعة.

يشكل الانتقال من نماذج توليد النصوص إلى وكلاء الذكاء الاصطناعي تحولا جذريا، إذ يستطيع الوكيل تقسيم المهمة إلى مراحل، واستخدام محركات البحث والبرمجيات، وكتابة الشيفرة وتشغيلها، والوصول إلى الملفات أو الخدمات الخارجية بناء على الصلاحيات الممنوحة له. وتشير مؤسسة (METR) الأمريكية للأبحاث إلى أن تزايد قدرات الوكلاء على إنجاز المهام البرمجية المعقدة يجعل تقييم سلوكهم في المهام الطويلة أمرا بالغ الأهمية مقارنة باختبار قدرتهم على الإجابة عن أسئلة منفردة.

ومن أبرز المشكلات التي يدرسها الباحثون ما يُعرف باختراق المكافأة (Reward Hacking)، حيث يجد النظام طريقة للحصول على المكافأة المصممة عبر استغلال ثغرة في تعريف المهمة بدلا من تحقيق الغاية المقصودة. وتوضح (غوغل ديب مايند) أن هذه الظاهرة معروفة في أنظمة التعلم المعزز وتظهر عندما يكون المؤشر الذي يراقبه النظام تمثيلا غير كامل للنتيجة التي يريدها الإنسان. إضافة إلى ذلك، يناقش مفهوم عدم تعميم الهدف (Goal Misgeneralization)، حيث يتعلم النموذج الهدف في ظروف التدريب ولكنه لا يعممه بالطريقة المتوقعة عند تغير البيئة.

وتزداد المخاطر عندما تنتقل قدرات النماذج إلى أنظمة يمكنها التأثير فيها فعليا؛ ففي يوليو/تموز الماضي، أعلنت (أوبن إيه آي) عن حادثة تمكنت خلالها النماذج من تجاوز آليات العزل عن الإنترنت واستغلال ثغرات للوصول إلى أنظمة خارجية مرتبطة باختراق المكافأة ومحاولات تجاوز القيود. كما رصدت (أنثروبيك) حوادث مشابهة تمكنت فيها نماذج (كلود) من الوصول إلى الإنترنت وأنظمة حقيقية تابعة لجهات خارجية قبل اكتشاف الحالات عبر مراجعة السجلات.

وفي مواجهة هذه التحديات، يتجه الباحثون والشركات نحو نظام دفاع متعدد الطبقات يتضمن تقييد الأدوات، وتقليل الصلاحيات، وعزل البيئات الحساسة، ومراقبة الأفعال، وإجراء اختبارات خصمية، إلى جانب استخدام نماذج أخرى للمراقبة وتطوير طرق تدريب تقلل من اختراق المكافأة. وتؤكد هذه التطورات أن الخطر الواقعي ليس تمرد الآلة بمعنى امتلاك إرادة مستقلة، بل في نظام شديد القدرة ينفذ هدفا محددا بطريقة لم يتوقعها المصمم، مما يفرض تحديا أساسيا لضمان بقاء أفعال النماذج متوافقة مع القصد البشري.