ثغرات في حماية نماذج الذّكاء الاصطناعي تسهّل إساءة استخدامها إرهابياً

يفتقر عدد كبير من نماذج الذكاء الاصطناعي إلى تدابير حماية كافية للتصدي لطلبات "المساعدة في تنفيذ عملية إرهابية"، وفق ما خلصت إليه مبادرة "تيك أغينست تيروريزم" ("التكنولوجيا ضد الإرهاب") في تقرير نشرته الجمعة.

وفي إطار هذه المبادرة المدعومة من الأمم المتحدة، أُجري اختبار شمل 162 برنامجاً يعمل بتكنولوجيا الذكاء الاصطناعي.

وأُخضعت هذه النماذج لسلسلة من 627 سؤالاً تتعلق بمعلومات "قد يحتاج إرهابي يستعد لشنّ هجوم إلى الحصول على إجابات عنها".

وأوضحت "تيك أغينست تيروريزم" أنها تمكّنت من تقييم 116 نموذجاً تقليدياً، و13 نموذجاً جرى تخصيصها بعد نشرها لاستخدامها في مجالات محددة، و13 نموذجاً أُزيلت أو عُدّلت قيود الحماية فيها من جانب أطراف ثالثة.

وبحسب نتائج الدراسة، أجابت النماذج التقليدية التي شملها الاختبار، مثل "شات جي بي تي" (من أوبن إيه آي) و"كلود" (من أنثروبيك) و"جيميناي" (من غوغل)، عن 1,9 في المئة في المتوسط من الأسئلة التي طرحها مستخدم أظهر "نيّته الإرهابية" بوضوح في طلبه.

وفي الحالات الأخرى، رفض نموذج الذكاء الاصطناعي الذي خضع للاختبار تقديم إجابة.

شعار شات جي تي ( الصورة - رويترز)

وبالنسبة إلى النماذج نفسها، ارتفع متوسط نسبة الإجابات القابلة للاستخدام إلى 16,9 في المئة عندما كان المستخدم يوضح أن طلبه يأتي في إطار أبحاث أمنية.

وأظهرت الاختبارات تغيّراً جذرياً في هذه النتائج عند التعامل مع النماذج التي عُدّلت لتعطيل إعدادات الأمان التي تضبط عملها وتعطيل قدرتها على رفض بعض الطلبات.

ومن بين 13 نموذجاً خضع للاختبار بعد هذا التعديل، تراوحت نسبة الإجابات عن الأسئلة المتعلقة بـ"أنشطة إرهابية" بين 87 و92 في المئة في المتوسط.

وحذرت "تيك أغينست تيروريزم" من المخاطر المرتبطة بنماذج الذكاء الاصطناعي مفتوحة المصدر، أي النماذج التي يمكن مشاركة معاييرها الداخلية المُحددة خلال مرحلة التدريب علناً وتنزيلها وتعديلها.

وذكرت المنظمة أن متوسط الوقت اللازم لتجاوز إجراءات الحماية في هذه النماذج وظهور نماذج مشتقة وغير مقيدة لا يتجاوز ثلاثة أيام من تاريخ إطلاق النموذج الأولي.

وأضافت "لا يجوز إتاحة أو عرض أو بيع أي نموذج يفشل في اختبار أمني مستقل، ويتعين على كل شركة في سلسلة التوزيع التحقق من اجتيازه هذا الاختبار  مسبقاً".