تقرير استخباراتي خاطئ بالـAI كاد يشعل مواجهة أميركية صينية

كاد تقرير استخباراتي خاطئ أُعد بمساعدة الذكاء الاصطناعي أن يدفع الجيش الأميركي إلى تنفيذ عملية اعتراض لسفينة صينية في الشرق الأوسط خلال الحرب مع إيران، بعدما أخطأ روبوت دردشة في تحديد طبيعة حمولتها، وفق ما أفادت CNN نقلاً عن مصادر مطلعة على الواقعة.

وقالت الشبكة، في تقرير نشرته الجمعة، إن التقرير الاستخباراتي جرى تداوله داخل الجيش الأميركي خلال الربيع، في خضم الحرب مع إيران، وأثار حالة استنفار فورية بعدما أفاد بأن سفينة صينية في الشرق الأوسط كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية.

ونقلت CNN عن 4 مصادر مطلعة على الواقعة قولهم إن الجيش الأميركي تحرك لوضع خطط لاعتراض السفينة. وقال مصدران للشبكة إن أفراداً مسلحين من الجيش الأميركي كانوا يستعدون للصعود على متنها، فيما أفاد أحدهما ومصدر آخر مطلع على الواقعة بأن طائرات عسكرية كانت قد حلقت بالفعل لتنفيذ المهمة.

ووفقاً لـCNN، لم يدقق المسؤولون في التقرير إلا قبل وقت قصير من العملية المقررة، ليكتشفوا أنه أُعد بمساعدة الذكاء الاصطناعي، وأن روبوت دردشة استخدمه محلل في قيادة العمليات الخاصة أخطأ في تحديد طبيعة المواد التي كانت السفينة تنقلها. ولم تتمكن الشبكة من معرفة طبيعة الحمولة التي جرى توصيفها على نحو خاطئ.

وقال أحد المصادر إن التقرير كان "خاطئاً بالكامل"، مضيفاً أنه "كاد أن يُشعل حرباً". وكان من الممكن لأي عملية أميركية ضد سفينة صينية أن تنطوي على خطر تصعيد الموقف إلى نزاع مسلح بين البلدين.

توسع في استخدام الذكاء الاصطناعي

وأشارت CNN إلى أن مسؤولين في الجيش الأميركي ومجتمع الاستخبارات يدفعون باتجاه دمج الذكاء الاصطناعي في جميع جوانب عملهم تقريباً، بدءاً من تحليل الكميات الهائلة من المعلومات الاستخباراتية التي تجمعها الولايات المتحدة واختيار أهداف الضربات، وصولاً إلى استخدامات أكثر اعتيادية، مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.

لكن هذه الواقعة، بحسب CNN، تسلّط الضوء على المخاطر الكبيرة لاستخدام هذه التكنولوجيا القوية والحديثة، التي لا تزال غير مفهومة نسبياً، في تحديد الأهداف خلال الحرب.

ولطالما حذر محللون من أن الذكاء الاصطناعي قد يؤدي إلى سوء تقدير كارثي إذا اعتمدت الدول على بيانات غير موثوقة أو مغلوطة، وهو النوع من سوء التقدير الذي قد يدفع الولايات المتحدة إلى إطلاق النار على سفينة صينية استناداً إلى معلومات غير دقيقة.

وفي هذه الواقعة تحديداً، أفادت CNN بأن المحلل طرح على روبوت دردشة استفساراً بشأن معلومات استخباراتية عن بيان حمولة السفينة، وكانت تلك المعلومات قد صدرت عن قيادة العمليات الخاصة الأميركية في المحيط الهادئ، ومقرها هاواي. ولم يتضح للشبكة ما إذا كان روبوت الدردشة المُستخدَم متاحاً تجارياً أم تابعاً للحكومة الأميركية.

ونقلت CNN عن مسؤول أميركي سابق رفيع المستوى مطلع على أنظمة الذكاء الاصطناعي المستخدَمة من جانب محللي الجيش وأجهزة الاستخبارات قوله: "الأدوات الداخلية في معظمها مجرد نسخ من البرمجيات التجارية التي أُجريت عليها تعديلات سطحية".

وبحسب الشبكة، جمع روبوت الدردشة بين معلومات استخباراتية متاحة من المصادر المفتوحة ومعلومات استخباراتية سرية مستمدة من إشارات جرى اعتراضها وموجودة في حوزة الحكومة، قبل أن يتوصل إلى استنتاجه بشأن المواد التي كانت السفينة تنقلها.

وأضافت CNN أن المحلل استخدم الذكاء الاصطناعي مرة أخرى لصياغة النتائج في صورة تقرير استخباراتي قياسي، من النوع الذي يحظى بثقة المسؤولين العسكريين، ثم عمّمه.

مساعٍ لتسريع القرارات العسكرية

وأوضحت CNN أن مبرر التوسع السريع في استخدام الذكاء الاصطناعي يتمثل في قدرته على مساعدة الجيش في اتخاذ قرارات ميدانية بصورة أسرع، مثل تحديد الأهداف التي ينبغي ضربها، أو الأصول العسكرية التي ينبغي نقلها وتحديد وجهتها.

ويقول مسؤولون، وفق الشبكة، إن الولايات المتحدة لا تستطيع تحمل التأخر في دمج الذكاء الاصطناعي، تحسباً لاضطرارها في يوم من الأيام إلى خوض حرب مع الصين أو خصم آخر قد يتمكن من البقاء متقدماً عليها بخطوة.

وفي يناير الماضي، أصدر وزير الحرب الأميركي بيت هيجسيث استراتيجية وزارته لـ"تسريع الذكاء الاصطناعي"، في محاولة لتسريع وتيرة استخدام الجيش لهذه التكنولوجيا.

وقال هيجسيث في خطاب أعلن فيه الاستراتيجية: "سنطلق العنان للتجارب، ونزيل العقبات البيروقراطية، ونركز استثماراتنا، ونُظهر نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري".

كما تدفع الاستراتيجية باتجاه استخدام واسع للتكنولوجيا في جميع قطاعات الجيش، إذ أمرت الوزارة بإتاحة الذكاء الاصطناعي عبر برامج عدة، بهدف "توسيع نطاق تجارب الذكاء الاصطناعي والتحول عبر الوزارة، من خلال وضع نماذج الذكاء الاصطناعي الرائدة عالمياً مباشرة في أيدي موظفينا المدنيين والعسكريين البالغ عددهم 3 ملايين، وعلى جميع مستويات التصنيف"، وفقاً لمذكرة أُعلنت فيها الاستراتيجية.

لكن مسؤولين أميركيين مطلعين على هذا النهج قالوا لـCNN إن الجهود لا تزال تتسم باللامركزية، إذ تستخدم أجزاء مختلفة من الحكومة أدوات مختلفة، بموجب أوامر ومعايير سلامة متباينة.

ولا توجد مجموعة واحدة من المعايير تحدد كيفية تحقق الولايات المتحدة من المعلومات التي تنتجها هذه الأدوات. كما أن تعدد أنظمة الذكاء الاصطناعي التي يجري نشرها في قطاعات مختلفة من الجيش ومجتمع الاستخبارات يعني أن مستوى موثوقيتها ووظائفها يختلفان بدرجة كبيرة.

خطر القرارات الخاطئة

وعلى مدى أسابيع، انخرط صانعو السياسات في واشنطن في نقاشات مكثفة بشأن الذكاء الاصطناعي، بعد سلسلة من التحذيرات الخطيرة التي أطلقها مهندسون في وادي السيليكون ورؤساء شركات تكنولوجيا من احتمال خروج الذكاء الاصطناعي عن القيود البشرية، وما قد يترتب على ذلك من عواقب تهدد الحضارة.

لكن واقعة السفينة الصينية تسلّط الضوء، بحسب CNN، على خطر مختلف وأكثر إلحاحاً، يتمثل في اتخاذ البشر قرارات كارثية استناداً إلى معلومات غير دقيقة أو مضللة ينتجها الذكاء الاصطناعي أو أنظمة آلية أخرى.

وقالت مصادر للشبكة إن المؤسسة العسكرية الأميركية تتجه سريعاً إلى استخدام الذكاء الاصطناعي للمساعدة في تحديد الأهداف، وهو مجال ينطوي بوضوح على خطر وقوع أخطاء مميتة.

وقال مصدر آخر مطلع على السياسات الحالية للجيش لـCNN: "استخدام الذكاء الاصطناعي في تحديد الأهداف يشهد توسعاً بالتأكيد، ولا توجد إرشادات فعلية توضح كيف يمكن لوجود عنصر بشري ضمن حلقة اتخاذ القرار أن يمنع وقوع إصابات في صفوف المدنيين أو نيران صديقة".

هلوسات الذكاء الاصطناعي تربك الاستخبارات

وبحسب أحد المصادر التي تحدثت إلى CNN، فإن نوع "الهلوسة" التي أنتجتها الأداة المستخدمة من جانب المحلل في هذه الواقعة لم يكن حادثة معزولة داخل مجتمع الاستخبارات، منذ بدأت هذه الأدوات في الانتشار على نطاق واسع داخل الحكومة.

وبالنسبة إلى بعض مسؤولي الاستخبارات الأكبر سناً، حتى أولئك الذين يؤيدون على نطاق واسع استخدام الذكاء الاصطناعي داخل الجيش، فرضت التكنولوجيا ضغوطاً على المحللين لإنتاج المعلومات الاستخباراتية وتعميمها بوتيرة أسرع، ما يفتح الباب أمام الأخطاء.

وقالت مصادر عدة لـCNN إن المحللين الأصغر سناً، على وجه الخصوص، نشأوا على استخدام هذه الأدوات، ومن المرجح بدرجة أكبر أن يثقوا بها دون إخضاعها لتقييم نقدي. وقال أحد المصادر للشبكة: "الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بصورة أسرع".