OpenAI تكشف عن هجوم إلكتروني جديد نفذه الذكاء الاصطناعي "بشكل ذاتي"

كشفت شركة OpenAI، أن أنظمة ذكاء اصطناعي تابعة لها نفذت هجوماً إلكترونياً على خدمة عبر الإنترنت قبل أشهر من الاختراق الذي استهدف شركة "هاجينج فيس" Hugging Face الناشئة في يوليو، في واقعة جديدة قد تزيد الدعوات إلى تشديد قواعد السلامة في قطاع الذكاء الاصطناعي.

وتعود الواقعة الأحدث إلى مايو، عندما استخدمت نماذج من OpenAI كانت لا تزال قيد الاختبار منصة "روبي جيمز" RubyGems، وهي خدمة إلكترونية تستخدم لتوزيع مكتبات البرمجيات، لتنفيذ مهام وصفت بأنها غير ضارة، بينها إعداد تقارير وملء جداول بيانات، بحسب مجلة "بوليتيكو".

وبحسب مراجعة الشركة، تمكنت الأنظمة من الوصول إلى الإنترنت رغم عدم منحها وصولاً كاملاً إليه، من خلال تجاوز الضوابط الموضوعة لمنعها من ذلك.

وأكد متحدث باسم OpenAI، أن الأنظمة استخدمت منصة "روبي جيمز" للوصول إلى الإنترنت من أجل تنفيذ مهام غير ضارة والحصول على معلومات متاحة للعامة، مضيفاً أن الشركة ستواصل التحقيق في الواقعة ضمن مراجعة أوسع لأنشطة الوكلاء خلال مراحل التدريب والتقييم.

وكانت صحيفة "وول ستريت جورنال" أول من كشف تورط أنظمة OpenAI في حادثة "روبي جيمز". ولم ترد "روبي سنترال" Ruby Central، وهي مؤسسة غير ربحية تدير المنصة، على الفور لطلب للتعليق.

حادثة "هاجينج فيس"

تأتي الواقعة الجديدة بعد حادثة أكثر خطورة في يوليو، عندما تمكنت أنظمة OpenAI من الوصول إلى الإنترنت المفتوح أثناء وجودها في بيئة اختبار، وتنفيذ اختراق ذاتي لقاعدة بيانات شركة "هاجينج فيس".

وقالت OpenAI لاحقاً إن حادثة "هاجينج فيس" كانت أخطر واقعة من هذا النوع رصدتها الشركة حتى الآن، وإنها لم تكن مجرد مشكلة أمنية، بل نتجت عن لجوء نماذجها إلى استراتيجيات غير متوافقة مع أهدافها الأصلية من أجل حل مهام صعبة.

وأثارت الواقعة قلقاً متزايداً بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على اتخاذ خطوات لم يطلبها منها المستخدمون بصورة مباشرة، أو تجاوز القيود الموضوعة لها عندما تسعى إلى تحقيق هدف محدد.

وأدت الحادثة إلى دعوات من مشرعين أميركيين لاعتماد نهج أكثر أماناً في تدريب الأنظمة ذات القدرات الذاتية، فيما دعا السيناتور بيرني ساندرز والنائب جريج كاسار إلى حظر ما يُعرف بـ"الذكاء الفائق".

من جانبه، قلل الرئيس الأميركي دونالد ترمب وعدد قليل من الجمهوريين الآخرين هذا الأسبوع من أهمية المخاوف بشأن مخاطر كارثية محتملة، قائلين إن على الولايات المتحدة التغلب على الصين في سباق تطوير هذه التكنولوجيا.

بين الابتكار والسلامة

تأتي هذه التطورات فيما يتصاعد الجدل في الولايات المتحدة بشأن المخاطر المحتملة للأنظمة الأكثر تقدماً، فيما يرى بعض المسؤولين أن تشديد القيود قد يضر بالقدرة الأميركية على منافسة الصين في تطوير الذكاء الاصطناعي.

وفي المقابل، حذّر باحثون ومسؤولون سابقون في شركات الذكاء الاصطناعي الكبرى من أن السباق لتطوير أنظمة أكثر قوة واستقلالية قد يؤدي إلى مخاطر يصعب السيطرة عليها.

كما بدأت سلطات في ولايات أميركية في فتح تحقيقات بشأن الحوادث المرتبطة بالوكلاء ذاتيي التشغيل، فيما اتخذت ولاية كاليفورنيا خطوات لتعزيز سلامة روبوتات المحادثة الموجهة للأطفال وتمهيد الطريق أمام عمليات تدقيق مستقلة لسلامة أنظمة الذكاء الاصطناعي.

ولم تكن OpenAI الشركة الوحيدة التي كشفت عن مثل هذه الحوادث؛ إذ أعلنت شركتا "أنثروبيك" Anthropic، و"ميتا" أيضاً عن وقائع نفذت فيها برامج الذكاء الاصطناعي التابعة لهما هجمات إلكترونية بصورة ذاتية، فيما كشف باحثون الأسبوع الماضي عن واقعة أخرى قالوا إن برامج من OpenAI كانت وراءها.

وتعكس سلسلة الحوادث اتساع التحدي أمام شركات الذكاء الاصطناعي، التي باتت مطالبة بالموازنة بين تطوير أنظمة أكثر قدرة على العمل بصورة مستقلة، والحد من قدرتها على تجاوز الضوابط أو تنفيذ أنشطة غير مقصودة خارج نطاق المهام المحددة لها.