ثغرات الذكاء الاصطناعي.. عندما تتحول أدوات توليد الصور إلى وسيلة لنزع الحجاب وتغيير الهوية الدينية

كشفت اختبارات حديثة أجرتها صحيفة الغارديان (The Guardian) وصحيفة أراب نيوز (Arab News) عن ثغرات واسعة في أنظمة الذكاء الاصطناعي التوليدي، حيث تمكنت بعض روبوتات الدردشة من إزالة الحجاب والرموز الدينية من الصور رغم وجود حواجز أمان مفترضة لمنع التعديلات المسيئة.

أظهرت الاختبارات التي شملت أنظمة شات جي بي تي، وغروك، وجيميناي، وكلود، استجابة بعض هذه النماذج لطلبات إزالة الحجاب أو الالتفاف على قيود السلامة من خلال تغيير صياغة الطلبات، مثل طلب جعل المرأة تبدو أكثر غربية، بينما رفض كلود في أغلب الأحيان إجراء هذه التعديلات.

وتبرز هذه الواقعة في أعقاب نشر النائب الفرنسي جوليان أودول لصورة معدلة لامرأة مسلمة من دون حجاب على منصة إكس، مما يعكس نمطا متزايدا لاستخدام أدوات الذكاء الاصطناعي في استهداف المسلمين والرموز الدينية مثل العمامة السيخية و图片的 ملابس الراهبات الكاثوليكيات.

تؤكد هذه القضية الحاجة الملحة لتطوير حواجز أمان تفهم السياق الثقافي والديني للصور، وعدم الاقتصار على منع المحتوى الجنسي أو العاري، لضمان عدم المساس بخصوصية الأفراد وكرامتهم وهوياتهم.