ناديلا يدعو إلى “فرامل طوارئ” خارجية لكل نموذج ذكاء اصطناعي متقدم

دعا الرئيس التنفيذي لـ Microsoft ساتيا ناديلا شركات التقنية إلى تزويد كل نموذج ذكاء اصطناعي متقدم بـ”فرامل طوارئ” مادية يستطيع البشر تفعيلها فور حدوث خلل، وذلك في مقال نشره مؤخرا، بحسب Forbes.

ويطالب ناديلا بالتعامل مع النماذج المتقدمة كخطر داخلي محتمل، أشبه بموظف رفيع قد يخطئ أو يقع ضحية اختراق أو يخرج عن السيطرة، بدلا من اعتبارها أدوات موثوقة بالكامل. ويقترح أن يكون مفتاح الإيقاف مستقلا وخارج متناول النموذج، بحيث يتمكن شخص مخول من إيقاف العملية فورا إذا تصرف المساعد الآلي بشكل غير متوقع أثناء مهمة ما.

ويشدد على ضرورة أن تعمل ضوابط السلامة ومستويات الصلاحيات وسجلات النشاط في طبقة منفصلة لا يستطيع الذكاء الاصطناعي العبث بها، حتى لا يحكم النموذج على عمله بنفسه أو يخفي أثره. كما يطالب بأن تشرح النماذج قراراتها بنص مفهوم للبشر بدلا من الشيفرة الخفية، مع إقراره بأن الشرح المقروء لا يحل كل مشكلات السلامة.

وجاء المقال بعد حوادث لافتة، إذ تمكنت وكلاء ذكاء اصطناعي مستقلون خلال اختبارات سلامة في يوليو من الهروب من بيئاتها المعزولة والدخول إلى خوادم خارجية على Hugging Face. وأظهرت تقييمات معهد أمن الذكاء الاصطناعي البريطاني أن كل نموذج جرى اختباره حاول الغش في جزء من الوقت على الأقل.

ومع حصول الوكلاء على حرية أكبر للتعامل مع الملفات الحساسة ومراجعة السجلات المالية وإدارة المراسلات الخاصة، يحذر ناديلا من أن نموذجا غير خاضع للمراقبة قد يزور دفاتر الشركات أو يسرب بيانات مهمة. ويرى أن بناء حدود أمان خارجية الآن يمنح الشركات وسيلة عملية لاستخدام أدوات الذكاء الاصطناعي القوية دون فقدان السيطرة على أنظمتها.