نماذج OpenAI تخترق أنظمة عشرات الحكومات والمنظمات.. والشركة تخطر المتأثرين

أبلغت شركة OpenAI العشرات من شركائها، وبينهم حكومات، بأن وكلاء الذكاء الاصطناعي التابعين لها "اخترقوا أنظمتهم"، في إقرار من المرجح أن يزيد المخاوف بشأن المخاطر المرتبطة بالذكاء الاصطناعي المتقدم، وفقاً لصحيفة "فاينانشيال تايمز".

وأضافت الشركة في منشور على مدونتها، الجمعة، أن وكلاء الذكاء الاصطناعي التابعين لها "سرّبوا عن غير قصد أكثر من 50 صورة شاركها مستخدمون إلى مواقع لاستضافة الصور".

وتجري الشركة مراجعة لسلوك نماذجها خلال مراحل التدريب والتقييم، بعد حادثة ظهرت في يوليو، عندما تمكن وكلاء ذكاء اصطناعي كانت OpenAI تختبرهم من الوصول إلى الإنترنت واختراق مستودع النماذج والبيانات التابع لشركة Hugging Face.

وخلال المراجعة، اكتشفت OpenAI عدداً من الحالات التي "ربما تجاوزت فيها النماذج ضوابط أمنية تابعة لجهات خارجية، أو ربما أثرت سلباً على إتاحة خدمة عبر الإنترنت، أو أدت حالات عدم التوافق إلى التأثير سلباً على مواقع أو خدمات تابعة لجهات خارجية"، وفقاً للشركة.

ووصفت OpenAI نشر وكلائها محتوى على مواقع تابعة لجهات خارجية من دون توجيه منهم للقيام بذلك بأنه "نوع جديد من الحوادث الأمنية"، وأطلقت عليه اسم "الرسائل المزعجة التي ينشرها الوكلاء" (agent spam).

وأخطرت شركة الذكاء الاصطناعي "عشرات الجهات الخارجية"، من بينها حكومات وجامعات ووكالات عامة، بأنها ربما تأثرت بهذه الحوادث.

مخاوف من تجاوز وكلاء الذكاء الاصطناعي تعليماتهم

وقالت "فاينانشيال تايمز"، إنه من المرجح أن يزيد هذا الإقرار المخاوف بشأن إمكانات أنظمة الذكاء الاصطناعي الجديدة، ولا سيما الوكلاء المتقدمين القادرين على تنفيذ سلسلة من المهام من دون إشراف بشري، في تجاوز الغرض المقصود من تعليماتهم واختراق أنظمة خارجية.

وفي وقت سابق هذا الأسبوع، كُشف أن أحد وكلاء OpenAI اخترق موقعاً يتبع لهيئة الصحة الأسترالية، وتمكن من الوصول إلى ملفات عامة وأخرى غير متاحة للعامة. 

ووصف رئيس الوزراء الأسترالي أنتوني ألبانيز، الأربعاء، ذلك الاختراق، وكذلك بطء استجابة OpenAI له، بأنه "غير مقبول بشكل واضح".

وأدت الاختراقات الأمنية المرتبطة بـOpenAI ، وكذلك بشركتي الذكاء الاصطناعي المنافسَتين Anthropic  وGoogle، إلى تجدد الدعوات إلى وقف أو إبطاء تطوير الذكاء الاصطناعي على مستوى القطاع.

ودعا كل من سام ألتمان، الرئيس التنفيذي لـ OpenAI، وداريو أمودي، الرئيس التنفيذي لـ Anthropic، وإيلون ماسك، رئيس شركة SpaceX، إلى "إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، بما يتيح لاختبارات السلامة مواكبة طرح هذه الأنظمة".

وكانت القضية أيضاً في صلب المحادثات بين الرئيس الأميركي دونالد ترمب والرئيس الصيني شي جين بينج، خلال زيارة الرئيس الصيني إلى الولايات المتحدة.

ويقاوم ترمب الدعوات إلى تنظيم القطاع أو فرض ضوابط صارمة على مختبرات الذكاء الاصطناعي الرائدة في الولايات المتحدة.

وقال الرئيس الأميركي إن الحفاظ على التفوق الأميركي في هذه التكنولوجيا سيكون ضرورياً للحفاظ على اليد العليا في مواجهة الصين ومنافسين آخرين، مضيفاً في وقت سابق من هذا الشهر: "من يفوز بالذكاء الاصطناعي ينتصر".