أنثروبيك تحذّر: نماذج الذكاء الاصطناعي ربما تبدأ قريباً في نسخ نفسها ذاتياً

أعلنت شركة أنثروبيك إن تجاربها تشير إلى أن نماذج الذكاء الاصطناعي الصغيرة ربما تكون قادرة بما يكفي في غضون أشهر قليلة على نسخ نفسها ذاتياً على أجهزة (إنترنت الأشياء) التجارية مثل الأفران الذكية وأجهزة التلفزيون التي تعمل بنظام أندرويد من علامات تجارية غير معروفة.

في تجاربها، بحثت شركة أنثروبيك ما إذا كان بإمكان نماذج الذكاء الاصطناعي تحديد الأجهزة ذات الثغرات الأمنية ونسخ نفسها إلى تلك الأجهزة ومواصلة الانتشار دون تدخل بشري.

أنثروبيك.

وجدت الشركة أن النماذج الصغيرة التي تقل معاملاتها عن 30 مليار معامل يمكنها إكمال الخطوات العديدة اللازمة لعملية النسخ الذاتي.

مع ذلك، لاحظت الشركة أن نماذج الذكاء الاصطناعي هذه واجهت صعوبة في إكمال التسلسل بأكمله من البداية إلى النهاية.

في اختباراتها المبسطة، حيث تم استبعاد بعض الإجراءات الأمنية، وجدت أنثروبيك أن نموذج جي.إل.إم-5.2 والنماذج الأقوى منه كانت قادرة على النسخ الذاتي بالكامل من البداية إلى النهاية.

حذرت أنثروبيك من أن النماذج التي تنسخ نفسها بنفسها سيكون من الصعب إيقافها نظراً لعدم وجود نقطة تحكم مركزية لتعطيلها، كما أنها على عكس البرمجيات الخبيثة التقليدية، قادرة على اكتشاف أجهزة غير مألوفة بنفسها واستهداف معالجات مراكز البيانات.

ركزت الشركة في بحثها على أجهزة إنترنت الأشياء مثل أجهزة التلفزيون التي تعمل بنظام أندرويد، والأجهزة المنزلية الذكية، وغيرها من الأجهزة المتصلة بالإنترنت، إذ أن هذه الأجهزة عادة ما تكون غير محمية بشكل كاف.

كما حذرت الشركة الرائدة في مجال الذكاء الاصطناعي من أنه إذا استمرت النماذج الصغيرة في التحسن بنفس الوتيرة غير المسبوقة، فإنها ستكون قادرة على نسخ نفسها بشكل مستقل بحلول نهاية هذا العام، وستحذو حذوها بعد ذلك بوقت قصير نماذج نسخ صغيرة تعتمد على الأوزان.

أشارت أنثروبيك أيضاً إلى أن أنظمة الذكاء الاصطناعي المستقلة هذه من المرجح أن تنسخ نفسها ببطء وتعتمد على موارد حوسبة متاحة على نطاق واسع وتفتقر نسبياً إلى الأمان الكافي. وأضافت أنه ينبغي تعزيز الأنظمة لجعل انتشار وكلاء الذكاء الاصطناعي هذه أكثر صعوبة.