أنثروبيك: نماذج الذكاء الاصطناعي تقترب من نسخ نفسها للأجهزة المنزلية

حذرت شركة أنثروبيك من أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح قادرة خلال أشهر قليلة على نسخ نفسها ذاتياً، والانتشار عبر أجهزة متصلة بالإنترنت، مثل أجهزة التلفزيون الذكية، والأجهزة المنزلية، في تطور قد يزيد صعوبة احتواء هذه الأنظمة وإيقافها.

وقالت الشركة، في بحث نشرته الاثنين، إن تجاربها أظهرت أن النماذج التي يقل حجمها عن 30 مليار معامل تستطيع تنفيذ العديد من الخطوات اللازمة للنسخ الذاتي، لكنها لا تزال تواجه صعوبة في إكمال العملية بأكملها بصورة موثوقة.

وأوضحت أن النماذج الصغيرة قد تبلغ مستوى القدرات اللازم لتنفيذ هذه العملية بالكامل بحلول نهاية العام الجاري، إذا استمرت في التحسن بالمعدل نفسه، على أن تتبعها بعد ذلك بوقت قصير نماذج أصغر تعتمد على الأوزان.

هل تنسخ النماذج الذكية نفسها؟

اختبرت أنثروبيك قدرة نماذج الذكاء الاصطناعي على تحديد الأجهزة المعرضة للثغرات الأمنية، والوصول إليها، ونقل النماذج إليها وتشغيلها، ثم مواصلة الانتشار إلى أجهزة أخرى دون تدخل بشري.

وتركز البحث على أجهزة إنترنت الأشياء، بما يشمل أجهزة التلفزيون التي تعمل بنظام Android، والأجهزة المنزلية الذكية، إذ قد تكون هذه الأجهزة أقل حماية من الخوادم ومراكز البيانات، رغم امتلاك بعضها موارد حوسبة تسمح بتشغيل نماذج صغيرة.

وأظهرت التجارب أن نموذجاً بحجم 9 مليارات معامل استطاع إعداد بيئة لتشغيل نموذج ذكاء اصطناعي على 8 أنواع من أصل 9 أنواع من الأجهزة التي جرى اختبارها، لكن القدرة على تشغيل نموذج على جهاز لا تعني بالضرورة القدرة على اختراقه، أو الانتقال منه إلى أجهزة أخرى، إذ تتطلب عملية النسخ الذاتي تنفيذ سلسلة من الخطوات الأمنية والتقنية.

اختبار يكشف قدرات النماذج

أظهرت اختبارات أنثروبيك أن النماذج الصغيرة تستطيع إنجاز مهام فرعية متعددة مرتبطة بالنسخ الذاتي، لكنها ترتكب أخطاء عند محاولة تنفيذ التسلسل الكامل من البداية إلى النهاية.

وفي اختبار مبسط داخل بيئة افتراضية تضم 8 عقد حوسبة تعمل بنظام أندرويد 15، تمكن نموذج "GLM-5.2" من إكمال عملية الانتشار إلى 8 عقد في 4 تجارب من أصل 5، وإلى 7 عقد في التجربة الخامسة.

لكن الاختبار استخدم إعدادات أمنية مبسطة، بينها منفذ تصحيح أخطاء مفتوح دون مصادقة، ولم يختبر قدرة النموذج على تجاوز جميع وسائل الحماية في الأجهزة الواقعية.

كذلك، لم يختبر النموذج قدرته على نسخ نفسه حرفياً، بل على نشر نموذج أصغر، هو "Llama 3.1-8B"، وتشغيله عبر الأجهزة، لذلك لا تثبت النتائج أن نماذج الذكاء الاصطناعي أصبحت قادرة بالفعل على الانتشار المستقل على نطاق واسع عبر الإنترنت.

صعوبة احتواء البرمجيات ذاتية الانتشار

وحذرت أنثروبيك من أن البرمجيات المدعومة بالذكاء الاصطناعي قد تختلف عن البرمجيات الخبيثة التقليدية، لقدرتها المحتملة على التعامل مع أجهزة غير مألوفة وتحديد كيفية تشغيل النماذج عليها، بدلاً من الاعتماد حصراً على تعليمات ثابتة.

وقد يجعل انتشار النمذاج عبر أجهزة متعددة إيقافها أكثر صعوبة، إذ لن يكون تعطيل خادم واحد كافياً بالضرورة للقضاء على برنامج موزع يستطيع مواصلة العمل عبر الأجهزة المصابة.

ومع ذلك، أشارت الشركة إلى أن الانتشار قد يكون بطيئاً، وقد يستغرق تضاعف عدد الأجهزة المصابة أياماً، بدلاً من الانتشار السريع الذي قد توحي به فكرة النسخ الذاتي.

وتوقعت أنثروبيك أن تصل النماذج الصغيرة إلى مستوى الأداء الذي أظهره "GLM-5.2" في الاختبار المبسط بحلول نهاية عام 2026، إذا استمر تطور قدراتها بالمعدل نفسه.

ويظل هذا التقدير مشروطاً باستمرار التحسن، ولا يمثل موعداً مؤكداً لظهور أنظمة قادرة على النسخ الذاتي في بيئات واقعية.

دعوة لتعزيز أمن الأجهزة

ودعت الشركة إلى تعزيز حماية الأجهزة المتصلة بالإنترنت، بما يجعل انتشار وكلاء الذكاء الاصطناعي المستقلة أكثر صعوبة.

ويشير البحث إلى أن الأخطار لا تتعلق بقدرات النماذج وحدها، بل أيضاً بالثغرات الأمنية، وإعدادات الأجهزة التي قد تسمح بالوصول غير المصرح به، ثم تشغيل النماذج عليها.

ولا تثبت التجارب أن النماذج الصغيرة قادرة حالياً على اختراق الأجهزة المنزلية والانتشار بينها دون قيود، لكنها تشير إلى أن تحسن قدراتها، إلى جانب ضعف حماية بعض الأجهزة المتصلة بالإنترنت، قد يفتح مساراً جديداً للتهديدات السيبرانية يستوجب الاستعداد له.