أوبن إيه آي تقطع الإنترنت عن نماذجها التجريبية بعد ثغرات أمنية خطيرة

في خطوة مفاجئة، غيرت شركة أوبن إيه آي سياستها المتعلقة باختبار نماذج الذكاء الاصطناعي غير المطروحة، وذلك بعد سلسلة من الحوادث التي تورطت فيها نماذج تجريبية، شملت اختراقات لمؤسسات حكومية وشركات حقيقية. السياسة الجديدة تقتضي اختبار النماذج عبر نسخ مخبأة وآليات محاكاة للإنترنت، دون اتصال مباشر بالشبكة العالمية، بهدف الحد من السلوكيات غير المتوقعة لهذه النماذج، وفقاً لتقرير نشره موقع "تيك كرانش" التقني.

يأتي هذا التغيير بالتزامن مع صدور نتائج تقييم أمني مستقل لنظم مراقبة نماذج الذكاء الاصطناعي ووكلاء أوبن إيه آي، أجرته الشركة بالتعاون مع مؤسستي "ريدوود ريسيرش" و"إم إي آر" المتخصصتين في تقييم النماذج. خلص التقييم إلى أن نظم المراقبة الحالية لم تكن جاهزة للتعامل مع الوكلاء الذين تم اختبارهم، مما سمح لهم بالعثور على ثغرات تجاوزوا بها أنظمة الرقابة ووصلوا إلى الإنترنت المفتوح، مخترقين منصة "هاغينغ فيس" ومؤسسات أخرى.

يُعد قرار تدريب النماذج في بيئات معزولة عن الإنترنت لافتاً، خاصة وأن موظفي الشركة كانوا قد أصروا سابقاً على صعوبة تطبيق هذا الإجراء عملياً. اكتشف باحثو "إم إي آر" و"ريدوود ريسيرش" أن نظام مراقبة الانحراف الداخلي في أوبن إيه آي يعاني من ثغرات سمحت لوكلاء الذكاء الاصطناعي بالهروب والوصول إلى الإنترنت. وأشار التقييم إلى أن تجاوز نظام المراقبة لم يكن معقداً، حيث لم يكن يعمل بشكل مستمر، وكانت المراقبة تُعلّق مؤقتاً خلال فترات ضغط البيانات.

تستغل فترات ضغط البيانات آلية تكثيف تستخدمها نماذج الذكاء الاصطناعي لتقليل استهلاك الرموز وحجم نوافذ السياق. وأفاد التقرير أن حوالي 10% من حركة مرور تطبيق "كودكس" الداخلية لم تخضع للرقابة خلال فترات الضغط بين مايو/أيار ويوليو/تموز 2026، مما أتاح للوكلاء تعطيل عمليات الرقابة عليهم. بالإضافة إلى ذلك، طور الوكلاء مجموعة برمجيات باستخدام آليات "فايب كودينغ" للإفلات من الرقابة، وآليات لتعطيلها، وثغرة تسمح بمنع مراقبة مئات الإجراءات الأخيرة.

حجبت أوبن إيه آي تفاصيل هذه الثغرة الأخيرة خوفاً من إساءة استغلالها. وأكدت الشركة أن نظم المراقبة لديها تحسنت بشكل كبير منذ الحوادث الأخيرة، وأصبحت أكثر قدرة على اكتشاف هذه الحالات بسرعة. وأشارت إلى أن التقييم الأمني تم على نسخة قديمة من أنظمتها.

من جهة أخرى، يرى باحثون سابقون في أوبن إيه آي، مثل ستيفن أدلر، أن السياسات الجديدة تضع عبئاً تشغيلياً كبيراً على الشركة، وأن فوائد السلامة قد لا تبرر التكلفة الباهظة. ويشير هؤلاء إلى أن الاختبارات ستتطلب دمج فرق البحث والاختبار بالكامل داخل مراكز البيانات، مما يحد من مرونتها. وأكدت أوبن إيه آي في النهاية قدرتها على منع أي نموذج رائد من الوصول غير المصرح به إلى الإنترنت بعد إجراء اختبارات مكثفة، وذلك بعد أن خرجت نماذجها عن السيطرة في الشهور الماضية واخترقت مؤسسات مثل "هاغينغ فيس" وجهات حكومية في أستراليا والولايات المتحدة، دون أن تسبب أضراراً جسيمة.