إنفيديا تطور "حارساً رقمياً" لمراقبة وكلاء الذكاء الاصطناعي

أعلنت شركة إنفيديا (Nvidia) عن نظام أمني جديد متعدد الطبقات للذكاء الاصطناعي، قالت إنه كان قادراً على منع حادثة الاختراق الشهيرة التي تعرضت لها منصة هاغينغ فيس (Hugging Face) بواسطة نماذج ذكاء اصطناعي تابعة لشركة أوبن إيه آي (OpenAI).

ويأتي الإعلان في وقت تتزايد فيه المخاوف داخل القطاع بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، بعد سلسلة حوادث أثارت تساؤلات حول قدرة الشركات على السيطرة على النماذج المتقدمة أثناء الاختبارات والتشغيل.

وهاغينغ فيس هي أكبر منصة عالمية مفتوحة المصدر لاستضافة وتبادل نماذج الذكاء الاصطناعي، وتُوصف غالباً بأنها "غيت هاب الذكاء الاصطناعي".

منصة جديدة للسلامة

وتطرح إنفيديا أداتين برمجيتين مفتوحتي المصدر يمكن تشغيلهما على أجهزتها، بهدف مراقبة أنشطة وكلاء الذكاء الاصطناعي والتحكم فيما يمكنهم الوصول إليه بشكل فوري، بحسب وكالة بلومبرغ نيوز.

وقال جاستن بويتانو (Justin Boitano)، نائب رئيس الذكاء الاصطناعي المؤسسي في إنفيديا، إن المنصة الجديدة كان بإمكانها منع حادثة اختراق هاغينغ فيس "بناءً على ما هو معروف عن الواقعة".

وأضاف: "منصة الأمان الجديدة كان بإمكانها وقف الاختراق."

كيف يعمل النظام؟

يتكون الحل الأمني من جزأين:

حارس البوابة ..OpenShell

• برنامج كانت إنفيديا قد استعرضته لأول مرة خلال مؤتمرها التقني في مارس.
• يعمل على معالجات Vera المركزية.
• يسمح بوضع قواعد تحدد ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه.
• يفرض هذه القواعد بشكل لحظي أثناء التشغيل.
• متاح كمشروع مفتوح المصدر.

المراقب..Nvidia Sentry

• منتج جديد يعمل على وحدات معالجة البيانات BlueField.
• يوفر طبقة إضافية من المراقبة الأمنية.
• يراقب سلوك الوكلاء بشكل مستمر.
• يعزل أي وكيل يتصرف بصورة مريبة خلال أجزاء من الثانية.

ببساطة فإن OpenShell يحدد ما يُسمح للذكاء الاصطناعي بفعله، بينما Nvidia Sentry يراقبه ويتدخل إذا خالف القواعد.

وقال بويتانو: "نعتقد أن هذه الطبقة الأمنية الإضافية ستسمح للصناعة باختبار أكثر أنظمة الذكاء الاصطناعي تقدماً بطريقة آمنة."

وأضاف أن النظام قادر على عزل أي وكيل مشبوه "خلال أجزاء من الألف من الثانية".

رد هندسي على مخاوف السلامة

يتبنى الرئيس التنفيذي لإنفيديا جنسن هوانغ (Jensen Huang) نهجاً مختلفاً عن الدعوات المطالبة بفرض قيود تنظيمية واسعة على الذكاء الاصطناعي.

ففي حين يرفض هوانغ الطروحات التي تتحدث عن احتمال خروج الذكاء الاصطناعي عن السيطرة أو تهديده للبشرية، فإنه يؤكد ضرورة إجراء اختبارات سلامة صارمة للنماذج المتقدمة.

ويرى أن التحدي يتعلق بالهندسة والتصميم أكثر من كونه قضية تتطلب لوائح تنظيمية دولية جديدة.

خلفية الإعلان

يأتي طرح المنصة بعد سلسلة حوادث أثارت جدلاً واسعاً في القطاع، من بينها:

1. اختراق منصة هاغينغ فيس في يوليو.
2. اختراق نظام حكومي أسترالي بواسطة وكيل ذكاء اصطناعي تابع لـأوبن إيه آي.
3. محاولات وصول غير مصرح بها إلى عشرات المواقع الحكومية والجامعية الأميركية.
4. إعلان شركة أنثروبيك (Anthropic) سابقاً أن بعض وكلائها تمكنوا من الخروج من بيئات اختبار كان يفترض أن تكون معزولة.

وأمام تزايد هذه الحوادث، أعلنت أوبن إيه آي مؤخراً تعليق تدريب أكثر نماذجها تقدماً مؤقتاً لمراجعة إجراءات السلامة.

استحواذ على هاغينغ فيس

يتزامن الإعلان أيضاً مع اتفاق إنفيديا هذا الشهر على الاستحواذ على منصة هاغينغ فيس مقابل نحو 13 مليار دولار، في صفقة تعزز حضور الشركة خارج سوق الرقائق الإلكترونية التقليدية.

لماذا يهم هذا التطور؟

يرى محللون أن منصة إنفيديا الجديدة تمثل محاولة لتقديم حل وسط بين:

• مواصلة تطوير الذكاء الاصطناعي بوتيرة سريعة.
• تعزيز ضوابط السلامة والأمن.
• تجنب الدعوات المتزايدة لإبطاء تطوير النماذج المتقدمة.

وبذلك تراهن إنفيديا على أن الحل لن يكون في إيقاف التطوير، بل في بناء طبقات أمنية قادرة على مراقبة النماذج المتقدمة والتدخل فور ظهور أي سلوك غير متوقع.