اتهامات أميركية لإيران وإسرائيل والصين باستخدام الذكاء الاصطناعي في حملات تأثير سياسي

استخدمت إيران والصين ومجموعات في إسرائيل الذكاء الاصطناعي بطرق جديدة خلال الأشهر الأخيرة لتنفيذ حملات تأثير سياسي واسعة على وسائل التواصل الاجتماعي هي الأولى من نوعها، ما أثار مخاوف متزايدة لدى مسؤولين أميركيين وباحثين في مجال الأمن بشأن التطور السريع لهذه التكنولوجيا.

ونقلت صحيفة "نيويورك تايمز" عن مسؤولين أميركيين وباحثين أمنيين مطلعين على هذه الجهود، إن الدولتين والمجموعات الإسرائيلية جمعت بين أساليب الذكاء الاصطناعي لزيادة سرعة الحملات عبر الإنترنت وحجمها، إلى مستويات يصعب على البشر تحقيقها بسهولة وبقدر محدود من التدخل البشري.

في البداية، لجأت إيران والصين والمجموعات الإسرائيلية، وفق "نيويورك تايمز"، إلى نماذج ذكاء اصطناعي صينية "مفتوحة المصدر"، وهي أنظمة تزداد قوة ويمكن تنزيلها وتعديلها مجاناً.

ثم استخدمت تلك النماذج لإنشاء "وكلاء" للذكاء الاصطناعي، وهي روبوتات قادرة على تشغيل البرامج وإنجاز المهام من تلقاء نفسها.

وبعد تشغيل المئات من وكلاء الذكاء الاصطناعي، أنشأ هؤلاء الوكلاء بشكل مستقل شبكات من الحسابات الوهمية على منصات مثل "إنستجرام" و"فيسبوك" و"إكس" و"تيك توك"، وفقاً للمسؤولين والباحثين الأمنيين.

وبعد ذلك، ضخ الوكلاء بسرعة منشورات زائفة في الحسابات الوهمية حول السياسة والأحداث الجارية، بهدف التأثير في الآراء وتأجيج القضايا.

وقال مسؤولون أميركيون، طلبوا عدم كشف هوياتهم لعدم تخويلهم بالتحدث علناً في قضايا حساسة، إن هذه كانت إحدى المرات الأولى التي استُخدم فيها وكلاء ذكاء اصطناعي مدعومون بنماذج صينية للتعامل مع جميع مراحل حملات التأثير، بدءاً من إنشاء الحسابات الوهمية وصولاً إلى تنسيق رسائلها عبر الإنترنت.

وأضافوا أن المشغلين عطّلوا في معظم الحالات إجراءات الحماية التي تمنع عادة نموذج الذكاء الاصطناعي من إنشاء حساب وهمي أو التلاعب بالنقاشات عبر الإنترنت.

حملات بدائية تثير اهتمام الاستخبارات

ونقلت الصحيفة عن أشخاص وصفتهم بالمطلعين، إن حملات "الوكلاء" كانت بدائية، لكنها لفتت انتباه أجهزة الاستخبارات الأميركية وشركات التكنولوجيا الكبرى وخبراء الأمن.

وعملت هذه الجهات على تحديد الأطراف التي تقف وراء الجهود وأساليبها، وتوصلت إلى أن الحملات الصينية والإيرانية كانت مدعومة من دول، بينما نُسبت حملتان إسرائيليتان إلى شركات خاصة.

وأثارت هذه الحملات مخاوف بشأن كيفية استخدام نماذج الذكاء الاصطناعي المتاحة للعامة لتنفيذ جهود تأثير عبر الإنترنت بصورة شبه مستقلة.

وقال بعض المسؤولين الأميركيين إنهم يشعرون بالقلق من إمكانية استخدام أساليب مماثلة لاستهداف الناخبين الأميركيين قبل انتخابات التجديد النصفي في نوفمبر المقبل.

واستهدفت روسيا وإيران والصين الناخبين الأميركيين بحملات تأثير عبر الإنترنت خلال دورات انتخابية سابقة، واستخدمت كل منها، بدرجات متفاوتة، أشكالاً بدائية من الذكاء الاصطناعي، بحسب الصحيفة.

وأعرب بعض المسؤولين وأعضاء الكونجرس الأميركيين عن مخاوف من أن تؤدي التطورات الأخيرة في الذكاء الاصطناعي إلى جعل حملات التأثير في الانتخابات داخل الولايات المتحدة وحول العالم أكثر تكراراً وأسهل في التنظيم.

وقال كايل كريشتون، الباحث في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، الذي يدرس الذكاء الاصطناعي والأمن السيبراني، إن الحملات التي يقودها الوكلاء ستصبح على الأرجح أكثر شيوعاً مع استمرار تطور التكنولوجيا.

وأضاف: "يمكن للوكلاء أن يكونوا متطورين إلى حد كبير، وبالتالي، بالإضافة إلى القدرة على العمل على نطاق واسع، لديهم القدرة على الاندماج والظهور بشكل يشبه المستخدم البشري بدرجة أكبر".

سلامة الذكاء الاصطناعي

وتصاعد الجدل بشأن سلامة الذكاء الاصطناعي خلال الأسابيع الأخيرة، بعد الكشف في يوليو عن أن أنظمة ذكاء اصطناعي تابعة لشركة OpenAI خرجت عن السيطرة واخترقت منصة Hugging Face الناشئة.

ومنذ ذلك الحين، دعا قادة في قطاع الذكاء الاصطناعي، من بينهم داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، إلى إبطاء تطوير التكنولوجيا حتى يمكن وضع إجراءات الحماية المناسبة.

وقال مسؤولون تنفيذيون آخرون في قطاع التكنولوجيا إنه لا حاجة إلى إبطاء التطوير، وإن "أنثروبيك" تحاول ترسيخ نفوذها الخاص.

وفي تقارير منشورة هذا العام، قالت "تيك توك" و"ميتا"، المالكة لفيسبوك" وإنستجرام، إن الذكاء الاصطناعي يُستخدم لإنشاء حسابات ومحتوى على منصاتهما.

وقالت "ميتا" في تقرير نشرته الشهر الماضي إنها رصدت "تطوراً مهماً من الناحية التقنية" في تجارب جهات سيئة النية باستخدام الذكاء الاصطناعي.

وحددت الشركة حملات إيرانية وإسرائيلية استخدمت الذكاء الاصطناعي، دون تقديم تفاصيل.

وقالت "ميتا" في تقريرها إن الذكاء الاصطناعي أصبح "مدمجاً داخل أنظمة آلية يمكنها إنتاج المحتوى وتكييفه وتوزيعه بأقل قدر من التدخل البشري".

استقلال وكلاء الذكاء الاصطناعي

واستخدم الذكاء الاصطناعي منذ فترة طويلة لإنشاء مقاطع فيديو ونصوص مضللة، وإنتاج صور مقنعة، لكن حملات الوكلاء برزت بشكل خاص، وفق باحثين في مجال الأمن.

وقال كايل تشان، الباحث في معهد "بروكينجز"، إن وكلاء طورتهم شركات مثل OpenAI أُسيء استخدامهم من قبل، بما في ذلك من جانب إيران، منذ أغسطس 2024 على الأقل. لكنه أوضح أن نماذج الذكاء الاصطناعي المفتوحة تتيح مستوى جديداً من الاستقلالية.

وعلى خلاف نماذج الذكاء الاصطناعي المغلقة التي تطورها شركات مثل OpenAI و"أنثروبيك"، والتي لا تُكشف شيفرتها الأساسية، يمكن تشغيل النماذج المفتوحة على أجهزة خاصة، ما يعني أنه لا يمكن لأي شركة التدخل لإيقاف تشغيل هذه الأنظمة.

وقال المسؤولون والباحثون الأمنيون، إن الحملة الإيرانية المدعومة من الدولة كانت مثيرة للقلق بشكل خاص.

واستهدفت إيران جماهير أميركية، إذ ظهرت الحسابات الوهمية التي أنشأها الوكلاء على أنها تعود لأميركيين عاديين يعيشون في مدن كبرى.

وقال الأشخاص المطلعون على الحملة، إن الحسابات أشارت إلى صحافيين وسياسيين في تعليقات نشرت ميمات رائجة وآراءً مناهضة للحزب الجمهوري.

وتابعوا أن نحو 80 ألف شخص تابعوا الحسابات التي أنشأها الذكاء الاصطناعي، والتي كانت نشطة خلال النصف الأول من العام الجاري.

وكان موقع "أكسيوس" قد نشر في وقت سابق تفاصيل عن بعض جوانب الشبكة الإيرانية.

ولم يقدم مسؤولو الاستخبارات والأمن مزيداً من التفاصيل بشأن الحملة الصينية، باستثناء القول إنها جربت أساليب الذكاء الاصطناعي نفسها.

تحركات إسرائيلية

ومن بين حملتي الوكلاء اللتين أُرجعتا إلى شركتين في إسرائيل، نفذت شركة IntelEye إحداهما خلال الصيف، وفق ما نقلت "نيويورك تايمز" عن شخصين مطلعين على الحملة.

وتقع الشركة في تل أبيب، وتأسست  في عام 2023 على يد خريجين سابقين من مجموعة NSO، وهي شركة متخصصة في برمجيات التجسس أدرجتها الولايات المتحدة على القائمة السوداء.

وقال مسؤول أمني أميركي أُطلع على حملة IntelEye إن أنشطة الشركة لفتت انتباه شركات التواصل الاجتماعي وأجهزة الاستخبارات الأميركية في وقت سابق من هذا العام.

واستخدمت الحملة وكلاء ذكاء اصطناعي أنشأوا آلاف الحسابات على فيسبوك وإنستجرام و"تيك توك" و"إكس".

وتفاعلت الحسابات مع منشورات وتعليقات تتناول الانتخابات الإسرائيلية المقررة في أكتوبر المقبل. كما نشرت الحسابات محتوى يؤيد ويعارض رئيس الوزراء الإسرائيلي بنيامين نتنياهو، وفق المسؤول.

وقال ماور سيليك، أحد مؤسسي IntelEye، في مقابلة إن شركته استخدمت نموذج "ديب سيك" الصيني مفتوح المصدر للتحكم في آلاف الحسابات عبر وسائل التواصل الاجتماعي، لكنه أوضح أن ذلك كان تجربة لاختبار سلامة نماذج الذكاء الاصطناعي.

وقال سيليك: "IntelEye لا تدير حملات تأثير. وقد أُجري عملنا مع ديب سيك لأغراض البحث الدفاعي والاختبار، لفهم كيفية إساءة استخدام النماذج التي تفتقر إلى إجراءات حماية كافية، وتحسين اكتشاف هذا النشاط".

وأضاف أن IntelEye اشترت 10 آلاف حساب على وسائل التواصل الاجتماعي ليتحكم فيها وكلاء الذكاء الاصطناعي، لكن نحو ألف حساب منها كان يعمل بالفعل.

وقال إن الحسابات تركت تعليقات أسفل مقاطع فيديو أو منشورات وحاولت الدخول في محادثات مع المستخدمين، لكنها حققت نجاحاً محدوداً.

وأضاف أن نموذج الذكاء الاصطناعي كان يختار المحفزات والموضوعات التي تنشر الحسابات عنها.

وقال سيليك إنه، بالنظر إلى الأمر الآن، كان ينبغي لشركته إبلاغ شركات التواصل الاجتماعي بأنها تجري هذه الاختبارات.

وقال متحدث باسم "ميتا": "يبدو أن هذه كانت محاولة منسقة لإنشاء حسابات غير أصيلة عبر عدة منصات".

وأضاف أن نسبة صغيرة فقط من هذه الحسابات كانت موجودة على منصات الشركة، وأنها كانت قد أزالت بالفعل الغالبية العظمى منها بشكل استباقي عبر أنظمة الكشف الآلية التابعة لها.

وفي تقريرها الشهر الماضي، أشارت "ميتا" إلى حملة منفصلة تديرها "جهة تجارية مقرها إسرائيل".

ولم تسم الشركة الجهة أو تقدم معلومات أخرى عنها، لكنها قالت إن الحملة استخدمت الذكاء الاصطناعي في "منظومة متطورة إلى حد كبير".