مخاطر الأسلحة ذاتية التشغيل والذكاء الاصطناعي: هل تفقد البشرية السيطرة على قرار الحرب؟

تبدو فكرة أن تقتل أنظمة الذكاء الاصطناعي مليار إنسان قريبة من سيناريو الخيال العلمي، لكن النقاش الحقيقي لا يتعلق بالرقم، بل بمن يمتلك قرار استخدام القوة عندما تختار منظومة آلية هدفا وتشتبك معه دون تدخل بشري مباشر.

في مقابلة مع الجزيرة، أوضح البروفيسور بيتر لي، أستاذ الأخلاقيات التطبيقية في مركز دراسات الدفاع بجامعة بورتسموث وعضو اللجنة الاستشارية لأخلاقيات الذكاء الاصطناعي والاستقلالية التابعة لوزارة الدفاع البريطانية، تفهمه للقلق الذي أثاره حديث رئيس شركة مايكروسوفت بيل غيتس حول احتمالية تسبب أنظمة الذكاء الاصطناعي في قتل أعداد هائلة من البشر. وأشار لي إلى أن غيتس لم يوضح الآلية المؤدية لهذا السيناريو، مشددا على أن هذه الأنظمة لا تزال في مراحل مبكرة من التطوير.

ولا يقدم البروفيسور بيتر لي إجابة تبدد المخاوف تماما، بل يضعها في إطارها الأدق؛ إذ تكمن المشكلة في تقدم الاستخدام العسكري وغياب قواعد تحكم واضحة بين الدول. وأوضح أن السيناريو الكارثي قد يرتبط بإدماج الذكاء الاصطناعي في أنظمة القيادة والسيطرة النووية للولايات المتحدة أو روسيا، مع استبعاده قدرة الذكاء الاصطناعي حاليا على تنفيذ قتل بهذا الحجم نظرا لوجود إجراءات أمنية معقدة تحمي المنظومات النووية.

وتدعو الأمم المتحدة واللجنة الدولية للصليب الأحمر إلى إقرار قواعد دولية ملزمة تحظر أنواعا معينة من الأسلحة ذاتية التشغيل وتفرض قيودا على أخرى للحفاظ على السيطرة البشرية.

وفي جنيف، شارك ممثلو 128 دولة في محادثات أممية بشأن تنظيم الأسلحة الفتاكة ذاتية التشغيل، وانتهت بنص غير ملزم قد يمهد لمفاوضات لاحقة. وأفادت تقارير بأن الولايات المتحدة وروسيا سعتا لتخفيف الضوابط المقترحة، مما يعكس تناقضا بين سعي العالم لمنع الآلة من الانفراد بقرار القتل ورغبة الدول الكبرى في الحفاظ على تفوقها العسكري.

وأشار بيتر لي إلى أن رفض واشنطن وموسكو وبكين لمعاهدة ملزمة يعود إلى المنافسة الحادة على الريادة التقنية وعدم رغبة أي منها في التخلي عن ميزة عسكرية محتملة. وفي سياق متصل، اتفق البيت الأبيض على إنشاء قناة اتصال ثنائية بين واشنطن وبكين للتعامل مع حوادث الذكاء الفائق ومنع الصدام غير المقصود، دون أن تشكل هذه القناة مسارا لتنظيم الأسلحة.

ويخلص النقاش إلى أن الخطر الحقيقي يكمن في تحول قرار القتل إلى مجال تنافس بين القوى الكبرى قبل الاتفاق على الحد الأدنى من المسؤولية البشرية والقانونية.