كيف تختبر الشركات أمان أنظمة الذكاء الاصطناعي في محادثاتها مع الأطفال؟

مع توسع حضور الذكاء الاصطناعي في حياة الأطفال والمراهقين وازدياد أدوات المحادثة الرقمية، لم تعد السلامة مقتصرة فقط على منع المحتوى الخطير، بل امتدت لتشمل فهم السياق النفسي واللغوي. وتسعى شركة سيركيت بريكر لابز (Circuit Breaker Labs) الأمريكية لتطوير طرق اختبار تسبق ظهور نقاط الضعف عبر بناء ما يشبه دمى اختبار اصطدام للذكاء الاصطناعي.

تعتمد الشركة على وكلاء برمجية تحاكي مستخدمين بمختلف الأعمار والخلفيات للقيام بآلاف التفاعلات واختبار اللغة العامية والأخطاء والتقلبات الثقافية. ويرى أرول نيغام، المؤسس المشارك والمدير التقني، أن الشباب يلجؤون لهذه الأنظمة طلباً للدعم بينما قد تعجز النماذج عن تتبع السياق بدقة، وتؤكد شيرالي نيغام، الرئيسة التنفيذية للشركة، أن النماذج قد تتعثر أمام الاختصارات واللغة المشفرة.

وتتطابق هذه المخاوف مع تحذيرات منظمة الصحة العالمية بشأن مخاطر الدعم العاطفي عبر الذكاء الاصطناعي، إلى جانب تقارير كومون سينس ميديا (Common Sense Media) واليونيسف التي توضح لجوء ملايين الأطفال إلى هذه التقنيات لطلب النصح في مسلّمات مقلقة، مما يتطلب منظومة أوسع للاختبار والرقابة.