الجيش الأميركي اقترب من مواجهة بسبب تقرير مخابرات كاذب أنشأه الذكاء الاصطناعي

اقتربت القوات الأميركية هذا الربيع، في خضم الحرب مع إيران، من مواجهة مسلحة بسبب تقرير استخباراتي أُعد بمساعدة الذكاء الاصطناعي وكان، بحسب مصادر، كاذباً. وذكرت CNN في 18 سبتمبر أن التقرير الذي جرى تداوله في أوساط الجيش الأميركي زعم أن سفينة صينية في الشرق الأوسط تنقل مكوّنات برنامج أسلحة نووية.

ووفقاً لأربعة مصادر مطلعة على الحادثة، تحركت القوات الأميركية وخططت لاعتراض السفينة. وقال اثنان من تلك المصادر إن عناصر مسلحة كانوا يستعدون للصعود إلى متن السفينة، وإن طائرات عسكرية كانت في الجو. ولم يتّضح إلا قبل العملية المخطط لها بقليل أن التقرير أعدّه محلل في قيادة العمليات الخاصة بمساعدة الذكاء الاصطناعي، وأن روبوت المحادثة الذي استخدمه حدّد بشكل خاطئ المادة التي كانت تنقلها السفينة. ولم تتمكن CNN من معرفة الحمولة التي جرى تحديدها خطأً. ووصف أحد المصادر التقرير بأنه كاذب تماماً وقال إنه «كاد يشعل حرباً».

أين دخل الذكاء الاصطناعي في السلسلة

كان المحلل قد سأل روبوت محادثة عن معلومات استخباراتية حول بيان حمولة السفينة وردت من قيادة العمليات الخاصة الأميركية في المحيط الهادئ ومقرها هاواي. ولم يتّضح ما إذا كان الروبوت منتجاً تجارياً أم أداة حكومية. وقد دمج الروبوت معلومات المصادر المفتوحة مع معلومات استخبارات الإشارات السرية لدى الحكومة ووصل إلى استنتاجه بشأن الحمولة. ثم استخدم المحلل الذكاء الاصطناعي مرة أخرى لصياغة النتائج في تقرير استخباراتي قياسي من النوع الذي يثق به الضباط العسكريون، ثم عمّمه.

وقال مسؤول أميركي سابق رفيع المستوى مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها المحللون العسكريون والاستخباراتيون لـCNN: «الأدوات الداخلية هي في الغالب مجرد نسخ من المنتجات التجارية لكن بأحمر شفاه». ولم تستجب قيادة العمليات الخاصة الأميركية في المحيط الهادئ ولا البنتاغون لطلب التعليق.

الدفع نحو الذكاء الاصطناعي وغياب معيار موحّد

مبرر التبني السريع هو السرعة: إذ يُفترض أن يساعد الذكاء الاصطناعي القادة على تحديد الأهداف التي يجب ضربها أو الوجهة التي تُنقل إليها القوات. وفي يناير أصدر وزير الدفاع بيت هيغسيث «استراتيجية تسريع الذكاء الاصطناعي» بهدف تسريع استخدام التقنية في الجيش، مع السعي إلى إتاحتها لثلاثة ملايين موظف مدني وعسكري في الوزارة على جميع مستويات التصنيف.

لكن الجهد لا مركزي بحسب عدة مسؤولين أميركيين: أجزاء مختلفة من الحكومة تستخدم أدوات مختلفة بموجب أوامر ومعايير سلامة مختلفة، ولا توجد مجموعة قواعد واحدة للتحقق مما تنتجه تلك الأدوات.

وقالت مصادر إن هذا النوع من «الهلوسة» لم يكن حادثة معزولة منذ انتشار هذه الأدوات في الحكومة. ويقول بعض كبار مسؤولي الاستخبارات إن الذكاء الاصطناعي زاد الضغط على المحللين لإنتاج المعلومات وتوزيعها بسرعة أكبر، ما يفتح الباب للأخطاء، في حين نشأ المحللون الشباب، بحسب عدة مصادر، على هذه الأدوات ويميلون إلى الوثوق بها دون نقد. وقال أحد المصادر: «الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بسرعة أكبر». ويقول مصدر آخر مطلع على السياسة العسكرية الحالية إن استخدام الذكاء الاصطناعي في اختيار الأهداف يتزايد، ولا يوجد توجيه حقيقي حول كيفية منع وجود الإنسان في الحلقة من سقوط ضحايا مدنيين أو وقوع نيران صديقة.