الذكاء الاصطناعي والإنذارات الخاطئة: هل يمهد الطريق لحروب غير مقصودة؟

لا تبدأ الحروب دائمًا بقرار مباشر من قائد عسكري، بل قد تنشأ من لحظات توتر شديد حيث يُفسّر تحرك عسكري على أنه هجوم وشيك. في أوقات التصعيد، يصبح الخط الفاصل بين الاستعداد لهجوم محتمل وتفسير تحرك على أنه بداية هجوم فعلي ضيقًا للغاية، خاصة مع تدفق المعلومات السريع والحاجة لاتخاذ قرارات حاسمة في وقت محدود.

تخيل نظام ذكاء اصطناعي يرصد تحركات غير اعتيادية لطائرات أو سفن عسكرية، ويصنفها كمؤشر على تهديد محتمل. قد يكون الرصد دقيقًا، لكن تفسير هذه التحركات على أنها استعداد لهجوم وشيك يظل أمرًا غير مؤكد. إذا دفعت هذه التوصية الآلية القيادة إلى رفع حالة التأهب أو إعادة تموضع القوات، فقد يفسر الطرف الآخر هذه الخطوات على أنها استعداد للهجوم، ويتخذ إجراءات مضادة. في هذه الحالة، لا يكون الذكاء الاصطناعي قد اتخذ قرار الحرب بنفسه، لكنه يكون قد ساهم في تغيير سلوك الأطراف وطريقة تفسيرهم لتحركات بعضهم البعض.

وهنا يبرز سؤال جوهري يتجاوز قدرة الأنظمة على تحليل المعلومات: ماذا لو لم يكن الخطر في أن يتخذ الذكاء الاصطناعي القرار، بل في أن يدفع الإنسان إلى اتخاذه قبل أن يمتلك الوقت الكافي للتحقق؟

عندما يسبق الإنذار الفهم

لا يعني رصد تحرك عسكري بالضرورة فهم الغرض منه. فقد يرصد النظام نشاطًا غير معتاد بدقة، لكنه لا يستطيع الجزم وحده بما إذا كان مناورة، أو إجراء احترازيًا، أو استعدادًا لعملية هجومية. وفي بيئة يسودها التوتر وانعدام الثقة، قد تتحول فرضية غير مؤكدة إلى تقدير تهديد تتعامل معه القيادة باعتباره حقيقة. هذا الخطر تم تناوله مؤخرًا في بحث بعنوان "الذكاء الاصطناعي واتخاذ القرار العسكري: عندما يسبق الإنذار الفهم" (AI and Military Decision-Making: When Warning Outruns Understanding)، صادر عن معهد "إس راجاراتنام للدراسات الدولية" (RSIS) في سنغافورة.

يناقش دينيس فوا، المتخصص في الدراسات الإستراتيجية والأمن، في هذا البحث الأخطار الناشئة عن سبق سرعة الإنذار القدرة على فهم الموقف. ويوضح فوا، وهو طالب ماجستير في المعهد، أن الإنذار الصادر عن الذكاء الاصطناعي لا يحتاج إلى أن يكون خاطئًا كليًا ليصبح خطرًا. فقد يرصد النظام تحركات جوية أو بحرية غير مألوفة على نحو صحيح، بينما يظل الاستنتاج بأن الهجوم وشيك أمرًا غير مؤكد. يقول فوا: "عند هذه النقطة، يكون الإنذار قد بدأ في تغيير الوضع الذي كان من المفترض أن يقيّمه".

إذا رفعت حكومة مستوى التأهب خشية أن تتعرض لهجوم، فقد يرى الطرف المقابل التحركات الناتجة عن ذلك دون معرفة أسبابها، فيفسرها باعتبارها استعدادًا لعمل هجومي، ويتخذ بدوره إجراءات احترازية. وقد تنظر الحكومة الأولى إلى هذه الإجراءات بوصفها دليلًا إضافيًا على وجود نيات عدائية. ويصبح الخطر أشد، بحسب فوا، عندما تكون الإجراءات الاحترازية مرئية للطرف الآخر، ويصعب التراجع عنها، وتُتخذ قبل اختبار تفسيرات بديلة. وعندما يبدأ كل من الطرفين الاستجابة لتحركات الآخر، قد لا يكفي تصحيح التقدير الأولي وحده لاحتواء الأزمة.

حوادث تاريخية وتحديات معاصرة

تكشف حوادث الإنذار العسكري السابقة حساسية القرارات المبنية على معلومات ملتبسة. ففي عام 1983، لم يعتبر الضابط السوفياتي ستانيسلاف بيتروف إنذار نظام الإنذار المبكر، الذي أشار إلى إطلاق صواريخ أمريكية، دليلًا كافيًا على وقوع هجوم. وفي عام 1995، أثار إطلاق صاروخ علمي نرويجي مخاوف داخل روسيا من احتمال وقوع هجوم صاروخي. لم تنتج هاتان الحادثتان عن الذكاء الاصطناعي، لكنهما توضحان كيف يمكن لتفسير إشارة غير مكتملة أن يضع صانع القرار أمام خيارات خطرة. فالمشكلة لا تكمن في وجود إنذار فحسب، بل في كيفية تقييمه قبل الاستجابة له.

من تحليل المعلومات إلى تقدير التهديد

يتزايد دمج الذكاء الاصطناعي في الأنظمة العسكرية المخصصة للإنذار ودعم القرار. ففي عام 2024، أجرت شركات اتفاقية "أوكوس" (Aukus) تجارب ضمن مبادرة لتطوير تقنيات الذكاء الاصطناعي المرنة والمستقلة، لاستكشاف القدرات العسكرية المستقلة والمدعومة بهذه التقنيات. وفي السياق نفسه، واصلت الولايات المتحدة تطوير نظام "مافن الذكي" (Maven Smart System)، الذي يدعم دمج بيانات المستشعرات واكتشاف الأجسام وتتبعها، إلى جانب دعم اتخاذ القرار.

لكن معالجة البيانات بسرعة لا تحسم وحدها جودة التقدير الناتج عنها. فالمسألة تشمل أيضًا كيفية اختبار النظام، ومعرفة الظروف التي قد يخطئ فيها، وإمكان مراجعة مخرجاته قبل الاستناد إليها في قرار عسكري. وتتناول دراسة "إعادة التفكير في التفاعل بين الإنسان والآلة وحوكمة الذكاء الاصطناعي في المجال العسكري" (Re-thinking human-machine interaction and the governance of AI in the military domain)، التي نشرتها مجلة "نيتشر ماشين إنتليجنس" (Nature Machine Intelligence) عام 2026، هذه المسألة. يرى الباحثون في هذه الدراسة أن السيطرة البشرية لا ينبغي أن تُفهم كإجراء يحدث لحظة اتخاذ القرار النهائي فقط، بل يجب أن تشمل دورة حياة النظام بأكملها، من تطويره واختباره إلى تقييمه والتحقق من صلاحيته.

تشمل التوصيات آليات للاعتراض والتحقق، ومقارنة مخرجات الذكاء الاصطناعي بمصادر أخرى، وتدريب المستخدمين على سيناريوهات غير متوقعة وبيانات محدودة، إلى جانب توثيق الإجراءات والقرارات. هذه المقاربة تعني أن وجود إنسان في نهاية سلسلة القرار لا يكفي وحده لضمان الرقابة الفعلية. إذ ينبغي أن يمتلك القدرة على فهم التوصية واختبارها والاعتراض عليها، لا أن يقتصر دوره على الموافقة عليها.

حين تتحول السرعة إلى ضغط على القرار البشري

تظهر صعوبة أخرى عندما يتلقى المسؤول إنذارًا في وقت حساس، بينما تظل المعلومات اللازمة لفهمه ناقصة أو قابلة لتفسيرات مختلفة. قد يبدو الانتظار لجمع معلومات إضافية مخاطرة، في حين ينطوي اتخاذ إجراء فوري على احتمال الاستناد إلى تقدير غير دقيق. ولا ينبغي افتراض أن البشر يقبلون توصيات الأنظمة الآلية دائمًا أو يرفضونها تلقائيًا. فالسؤال هو كيف يتعاملون معها في ظروف مختلفة، ومتى يثقون بها أو يشككون فيها، وكيف تؤثر تكلفة الخطأ في أحكامهم.

تتناول دراسة "حرب الصندوق الأسود: الحكم البشري واتخاذ القرار العسكري في عصر الذكاء الاصطناعي" (Black Box Warfare: Human Judgment and Military Decision-making in the Age of AI) العلاقة بين التوصيات الخوارزمية والحكم البشري في القرارات العسكرية. وتكتسب هذه المسألة أهميتها من ضرورة فهم كيفية تفاعل صانعي القرار مع مخرجات الأنظمة، بدل افتراض أن وجود توصية آلية يقود بالضرورة إلى قبولها، أو أن وجود مسؤول بشري يضمن مراجعتها بصورة كافية.

يؤكد فوا أن الموافقة البشرية وحدها لا تضمن وجود رقابة فعلية، قائلاً: "موافقة شخص بشري على القرار النهائي لا تكفي إذا لم تتح له فرصة حقيقية لمراجعة التقدير والاعتراض عليه". ويحتاج صانعو القرار، بحسبه، إلى التمييز بين ما رصده النظام فعلاً وما استنتجه بشأن نية الخصم، ومعرفة المعلومات الناقصة والتفسيرات البديلة التي لا تزال محتملة، والتحقق مما إذا كانت هناك مصادر مستقلة تؤكد الإنذار.

عندما يسمح الوقت، ينبغي أن يتولى تقييم استخباري منفصل اختبار تفسير النظام والتشكيك فيه، بدلًا من مجرد تكرار استنتاجاته. إذ لا تتعلق الرقابة البشرية بمجرد وجود شخص يوافق على التوصية، بل بقدرته على طلب معلومات إضافية ورفض التقدير أو تعديل الاستجابة بناءً على الأدلة المتاحة.

من الخطأ الأول إلى سلسلة التصعيد

لا يقتصر القلق من الذكاء الاصطناعي على احتمال إساءة تحليل المعلومات العسكرية، بل يمتد إلى الطريقة التي يمكن أن تؤثر بها مخرجاته في تصور القادة للأزمة والخيارات المتاحة أمامهم، خصوصًا في السياقات النووية التي قد تكون فيها عواقب الخطأ شديدة. وفي هذا السياق، تناقش دراسة بعنوان "الذكاء الاصطناعي التوليدي والاستشراف الاصطناعي عند حافة الهاوية: مستقبل اتخاذ القرار في الأزمات النووية" (GenAI and Synthetic Foresight at the Brink: The Future of Nuclear Crisis Decision-Making)، دور الذكاء الاصطناعي التوليدي في تشكيل تصورات القادة عن نية الخصم ومسارات التصعيد المحتملة.

يُطلق على هذه العملية مفهوم "الاستشراف الاصطناعي" (Synthetic Foresight)، لوصف إنتاج تصورات خوارزمية عن سيناريوهات مستقبلية يمكن أن تؤثر في القرارات التي تُتخذ استعدادًا لها. تطرح الدراسة أخطارًا عدة، منها أن يؤدي تكرار محاكاة سيناريوهات شديدة الخطورة إلى منحها وزنًا أكبر في التخطيط، وأن تدفع الثقة في التقديرات الآلية إلى تفسير التحركات الملتبسة بوصفها دليلًا على نية عدائية. أما الخطر الثالث، فيتمثل في حلقات التغذية الراجعة، إذ قد تؤثر السيناريوهات التي ينتجها النظام في قرارات أحد الأطراف، ثم تصبح هذه القرارات نفسها مؤشرات يفسرها الطرف الآخر بوصفها دليلًا على تهديد. وهكذا قد يسهم التقدير الأول في تشكيل التطورات التي تبدو لاحقًا وكأنها تؤكده.

لتوضيح هذه الآلية، تعرض الدراسة سيناريو افتراضيًا لأزمة بين الهند وباكستان عام 2029، تبدأ بعد تفجير في كشمير. في هذا السيناريو، يقدر نظام ذكاء اصطناعي هندي احتمال استعداد باكستان لإرسال إشارة نووية، بينما يفسر نظام باكستاني التحركات الهندية بوصفها استعدادًا لضربة استباقية. وتؤدي إجراءات رفع الجاهزية التي يتخذها الطرفان إلى تعزيز شكوك كل منهما تجاه الآخر، إذ تُقرأ التحركات الدفاعية بوصفها مؤشرات على نية هجومية. ومع تزايد الاعتماد على التقديرات الآلية وضيق الوقت المتاح لاتخاذ القرار، تتراجع مساحة التفسيرات البديلة وفرص التواصل الدبلوماسي، بما قد يدفع الأزمة نحو تصعيد خطير.

تؤكد الدراسة أن هذا السيناريو افتراضي، ولا يمثل وصفًا لحادثة وقعت بالفعل أو دليلًا على أن الذكاء الاصطناعي تسبب في أزمة نووية. وإنما يوضح كيف يمكن للمخرجات الخوارزمية، إذا عوملت بوصفها تقديرات مؤكدة، أن تؤثر في تصورات القادة وقراراتهم، فتُسهم في خلق الظروف التي تجعل السيناريوهات التحذيرية أقرب إلى التحقق.

من المسؤول عن القرار؟

إذا أسهم تقدير آلي في دفع قرار عسكري نحو التصعيد، فإن المساءلة لا تتعلق فقط بما إذا كان النظام قد أخطأ، بل تشمل أيضًا من صممه واختبره، ومن قرر استخدامه، وكيف عُرضت مخرجاته على المسؤولين، وما إذا كانت هناك آليات لمراجعتها قبل اتخاذ الإجراء.

في تقرير نشرته وكالة رويترز في 17 سبتمبر/أيلول 2026، تناول خبراء أمنيون أمريكيون وصينيون مقترحات لوضع ضمانات للحد من أخطار الذكاء الاصطناعي، مستلهمة من بعض مبادئ الضوابط النووية. شملت المقترحات خطوطًا حمراء تتعلق بدمج الذكاء الاصطناعي في الأنظمة النووية، والإبقاء على السيطرة البشرية على الهجمات السيبرانية ذات العواقب الخطيرة، وإنشاء قناة اتصال للتعامل مع الحوادث المرتبطة بأنظمة الذكاء الاصطناعي المستقلة.

أشار التقرير إلى أن الرئيس الأمريكي جو بايدن والرئيس الصيني شي جين بينغ أكدا عام 2024 مبدأ أن يظل البشر، لا الذكاء الاصطناعي، أصحاب القرار بشأن استخدام الأسلحة النووية. لكن الاتفاق على المبدأ لا يحسم وحده كيفية تطبيقه عمليًا، ولا يضمن توافر الوقت والمعلومات اللازمين لمراجعة التقديرات أثناء الأزمات.

يؤكد فوا أهمية وضع إجراءات الاستجابة مسبقًا، بحيث تميز المؤسسات العسكرية بين الإنذارات الداخلية والتدابير الاحترازية القابلة للتراجع من جهة، والتحركات العسكرية الظاهرة أو التهديدات العلنية والالتزامات التي قد تغير حسابات الطرف الآخر من جهة أخرى. وقبل اتخاذ خطوات أكثر تأثيرًا، ينبغي أن يعرف القادة من يملك صلاحية الاعتراض على الاستجابة، أو إيقافها، وما الأدلة الجديدة التي تستوجب إعادة التقييم، ومتى يجب مراجعة القرار، وفق فوا. ويضيف المتخصص في الدراسات الإستراتيجية والأمن أن بعض الأزمات قد تجعل الانتظار خطرًا، ولذلك يجب وضع الضمانات واختبارها مسبقًا، لا انتظار اندلاع الأزمة لمعرفة مدى فاعليتها.

يلخص فوا هذه المفارقة بقوله: "الإنذارات الأسرع يمكن أن تمنح القادة وقتًا أطول لاتخاذ قرارات جيدة، لكن فقط إذا كانت عملية اتخاذ القرار تسمح لهم باستخدام ذلك الوقت". ويعرّف السيطرة البشرية الفعلية بأنها "الحفاظ على القدرة على التشكيك في الإنذار، والاختيار بين بدائل حقيقية، وتغيير المسار مع تطور الأدلة".

الخطر ليس في سرعة الآلة وحدها

لا يثبت كل ما سبق أن الذكاء الاصطناعي تسبب في اندلاع حرب بسبب إنذار خاطئ، لكنه يكشف كيف يمكن أن يسهم في ظروف التصعيد، حين يتحول رصد صحيح لتحرك عسكري إلى استنتاج غير مؤكد بشأن نية الخصم، ثم يدفع هذا الاستنتاج إلى قرار متسرع يفسره الطرف الآخر باعتباره تهديدًا. لذلك، لا يتوقف الخطر على دقة الأنظمة، بل على قدرة المؤسسات العسكرية على اختبار تقديراتها ومراجعتها قبل أن تتحول إلى تحركات يصعب التراجع عنها. فقد لا تبدأ الحرب بقرار تتخذه الآلة، بل بسلسلة من القرارات البشرية التي تتعامل مع إنذار غير محسوم كما لو أنه حقيقة.