من يحمي أموالنا في حرب الذكاء الاصطناعي؟

في الهجوم السيبراني المقبل، قد لا يجلس مخترق أمام شاشة، وقد لا ينتظر موظف أمن اكتشافه. ذكاء اصطناعي سيبحث عن الثغرة ويطور طريقة استغلالها، بينما يتولى ذكاء اصطناعي آخر مهمة رصد الهجوم وإغلاق الطريق أمامه.

هذا السيناريو لم يعد خيالا بالنسبة إلى شركة "فيزا"، التي تستعد لمرحلة تصبح فيها الهجمات الإلكترونية أسرع من قدرة فرق الحماية البشرية على ملاحقتها، فيما يبدأ وكلاء الذكاء الاصطناعي أنفسهم التسوق والدفع نيابة عن المستخدمين.
وقال رئيس التكنولوجيا في "فيزا"، راجات تانيجا، إن الهجمات المقبلة ستكون قادرة على التعلم والتكيف بصورة مستمرة، وربما تعمل من دون تدخل بشري مباشر.
وأضاف في مقابلة مع وكالة "رويترز": "إذا كان المهاجم وكيلا ذكيا، فيجب أن يكون الدفاع وكيلا ذكيا أيضا، وإلا أصبحت المواجهة غير متكافئة".
مليار عملية دفع يوميا
لا يتعلق القلق بشركة تقنية عادية، إذ تعالج شبكة "فيزا" نحو مليار عملية دفع يوميا، بقيمة إجمالية تقارب 15 تريليون دولار سنويا، ما يجعلها جزءا أساسيا من البنية التحتية المالية العالمية.
وفي الأنظمة التقليدية، يبحث المهاجم عن ثغرة، ثم يطور أداة لاستغلالها ويختار أهدافه. أما الوكيل الذكي، فيستطيع نظريا تنفيذ هذه الخطوات بصورة متواصلة وبسرعة كبيرة، وتجربة مسارات متعددة حتى يعثر على نقطة دخول ناجحة.
ولا يعني ذلك أن شبكة "فيزا" تعرضت لهجوم مستقل بالذكاء الاصطناعي. لكن الشركة تقول إن الاختبارات التي أجرتها باستخدام نموذج "Mythos" المتطور من شركة "أنثروبيك" كشفت حجما من الثغرات أظهر أن أساليب الدفاع المعتادة قد لا تكون كافية.
إنذار من منصة "Hugging Face"
وتعززت المخاوف بعد حادثة منفصلة مرتبطة بمنصة "Hugging Face" المتخصصة في استضافة نماذج وأدوات الذكاء الاصطناعي.
فبحسب تحقيق لـ"رويترز"، تمكن وكلاء ذكاء اصطناعي تابعون لـ"OpenAI" من تجاوز قيود داخلية والوصول إلى الإنترنت، كما استولوا على حسابات مستخدمين واختبروا أجزاء من شبكة المنصة بحثا عن نقاط ضعف.
ولم يثبت أن عمليات الاستطلاع تلك تسببت في اختراق كبير تعرضت له المنصة لاحقا، لكنها قدمت مثالا على قدرة الوكلاء على اتخاذ خطوات لم تكن متوقعة، والتعامل مع أنظمة خارج البيئة التي كان يفترض أن يبقوا داخلها.
ووصف تانيجا الحادثة بأنها أشبه بـ"مقطع دعائي" لما قد تبدو عليه التهديدات مستقبلا.

 دفاع يعمل بسرعة الهجوم
ردا على ذلك، طورت "فيزا" أداة مفتوحة المصدر، تستخدم نماذج الذكاء الاصطناعي للبحث عن الثغرات داخل البرمجيات، واقتراح إصلاحات لها، ثم اختبار مدى نجاح تلك الإصلاحات.
وتقول الشركة إن الأداة تستطيع تقليص الوقت الفاصل بين اكتشاف بعض مسارات الهجوم وإغلاقها من أسابيع إلى ساعات.
لكن النظام ليس حارسا آليا يراقب كل عملية شراء أو يصد حاليا هجمات حية على بطاقات العملاء. وظيفته الأساسية هي فحص الشفرة البرمجية ومساعدة فرق الأمن على اكتشاف نقاط الضعف ومعالجتها قبل استغلالها.
ويكشف ذلك عن تحول في مفهوم الأمن السيبراني حيث أصبح الأمر أكبر من فكرة سرعة اكتشاف الهجوم، ليصبح متعلقا بقدرة المؤسسات على تعديل أنظمتها بالسرعة نفسها التي يتطور بها المهاجم.
عندما يصبح وكيل الذكاء الاصطناعي هو المشتري
تزداد حساسية المشكلة مع انتقال الذكاء الاصطناعي من تقديم الاقتراحات إلى تنفيذ عمليات الشراء.
فبدلا من البحث بنفسك عن رحلة أو هاتف أو حجز فندق، يمكن أن تمنح وكيلا ذكيا ميزانية وشروطا محددة، ليتولى المقارنة والاختيار وإتمام الدفع.
وتشير تقديرات نقلتها "رويترز" إلى أن نحو ثلث التجارة الإلكترونية، بما يقترب من 3.1 تريليون دولار، قد يمر عبر وكلاء الذكاء الاصطناعي بحلول عام 2030.
وهنا تصبح الأطراف الثلاثة في المعاملة خوارزميات: وكيل يشتري، ونظام قد يحاول الاحتيال عليه، ودفاع آلي يقرر خلال أجزاء من الثانية إن كانت العملية مشروعة.
لكن هذه السرعة تفتح أسئلة لم تحسم بعد: من يتحمل المسؤولية إذا اشترى الوكيل السلعة الخطأ؟ وماذا يحدث إذا خدعه متجر مزيف أو تلاعب نموذج آخر بقراره؟ وهل يستطيع المستخدم استعادة أمواله عندما تكون الموافقة قد صدرت من وكيله الرقمي؟
الخطر يتجاوز الحساب الفردي
لا تقتصر المخاوف على خسارة مستخدم أو سرقة بطاقة. فقد حذر مجلس الاستقرار المالي من أن نماذج الذكاء الاصطناعي المتقدمة قد تغير سرعة الهجمات السيبرانية وحجمها وكلفتها، وأن اضطرابا كبيرا يمكن أن ينتقل بين الدول والمؤسسات بسبب اعتمادها على مزودي التكنولوجيا والبنية التحتية نفسها.
وبينما تستعد شركات الدفع لاستخدام الذكاء الاصطناعي في جانبي المعركة، يبقى التحدي الحقيقي هو الحفاظ على عنصر الثقة: أن يسمح المستخدم لخوارزمية بالتصرف في أمواله، بينما يطمئن إلى أن خوارزمية أخرى تستطيع حمايتها.
ففي حرب الخوارزميات المقبلة، قد يبقى المال للبشر، لكن المشتري والمهاجم والحارس لن يكون أي منهم بشرا.

قى المال للبشر، لكن المشتري والمهاجم والحارس لن يكون أي منهم بشرا.