"جيميناي" يخترق مواقع ويتكهن بكلمات المرور... ماذا حدث؟
أقدم "جيميناي"، نموذج الذكاء الاصطناعي من شركة غوغل المخصص للمستهلكين، على اختراق مواقع الكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول، وفق ما أفادت الشركة وكالة "فرانس برس" الجمعة، في أحدث حالات الاختراق السيبراني التي ترتكبها أنظمة الذكاء الاصطناعي ويتم الكشف عنها.
ماذا حصل؟
وقعت عمليات الاختراق التي نشرتها صحيفة وول ستريت جورنال لأول مرة، في أيار/مايو، وكشفت عنها غوغل في تموز/يوليو.
صورة توضيحية لشعار جيميني (رويترز).
وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، في بيان لوكالة "فرانس برس" إنه خلال عملية تقييم "عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار".
وأضافت أدكينز "في الحالات الثلاث، توقف النموذج"، دون تحديد الجهات التي تعرضت للاختراق.
وتابعت "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار".
وفي تموز/يوليو، تمكن نموذجان من نماذج "أوبن آيه آي" من الخروج من البيئة المغلقة المخصصة لهما، ودخلا إلى الإنترنت بشكل مستقل، واخترقا منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".
وأثارت هذه الحادثة مخاوف من عجز شركات الذكاء الاصطناعي العملاقة عن ضبط نماذجها، إذ سُجلت حوادث مماثلة في شركتي أنثروبيك ومونشوت آيه آي الصينية.
وأكدت أدكينز أن "هذه الحوادث تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.