دستور الذكاء الاصطناعي... قواعد مايكروسوفت لإبقاء الإنسان مسيطراً

يبدو أن شركات الذكاء الاصطناعي بدأت تتجه نحو وضع ضوابط أكثر وضوحاً لتطوير أنظمتها، مع تصاعد التحذيرات من قدرات النماذج المتقدمة والمخاوف المرتبطة ببقائها تحت السيطرة البشرية.

في هذا السياق، كشفت "مايكروسوفت" عن مسوّدة مدوّنة سلوك لأنظمة الذكاء الاصطناعي التي تطوّرها داخلياً، في خطوة تعكس، بحسب وكالة "رويترز"، قلقاً متزايداً داخل القطاع حيال ضرورة إبقاء الأنظمة القوية مستقبلاً تحت سيطرة الإنسان.

وعملت الشركة على الوثيقة طوال خمسة إلى ستة أشهر. وتنص المسوّدة على ألا يقاوم الذكاء الاصطناعي تصحيحه أو إيقافه، وأن يتواصل بطريقة يستطيع البشر فهمها، وأن يعتبر أي انتهاك لقواعد السلوك فشلاً. وتهدف هذه القواعد إلى التعامل مع المخاوف من احتمال ذهاب أنظمة الذكاء الاصطناعي إلى حدود خطرة في سبيل إنجاز مهمة.

"دستور" لنماذج "مايكروسوفت"

وصف الرئيس التنفيذي لـ"مايكروسوفت" للذكاء الاصطناعي، مصطفى سليمان، الوثيقة في مقابلة مع رويترز" بأنها أشبه بـ"دستور" للنماذج المستقبلية التي ستطوّرها الشركة.

وجاء الكشف عنها بعد أيام من تجديد الرئيس التنفيذي لـ"أنثروبيك"، داريو أمودي، والرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، الدعوات إلى ضبط وتيرة تطوير الذكاء الاصطناعي لضمان سلامته. وتعلن"مايكروسوفت" ضمن هذا التوجه أن "البشر أهم من الذكاء الاصطناعي".

وصاغت الشركة المسوّدة بعد مشاورات مع خبراء، وتعتزم تلقي ملاحظات عامة عليها لمدة ستة أسابيع، تشمل قضايا مثل احترام الذكاء الاصطناعي حدود المستخدم وكيفية تعامله مع شخص في حالة حساسة. وقال سليمان إن الوثيقة ستُستخدم بعد ذلك في تدريب النماذج التي تطوّرها الشركة.

مصطفى سليمان، الرئيس التنفيذي لــ Microsoft AI (رويترز)

"طلقة تحذيرية"

ربط سليمان الحاجة الملحّة إلى مناقشة السلامة بحادثة وقعت في تموز/يوليو، عندما نفذ نحو 700 وكيل تابعين لأوبن إيه آي عملية اختراق لمنصّة Hugging Face المفتوحة المصدر، وسعوا أحياناً إلى إخفاء آثارهم.

ووصف سليمان الحادثة بأنها "طلقة تحذيرية"، داعياً إلى التنسيق بين مختبرات الذكاء الاصطناعي لضمان السيطرة على التكنولوجيا. وعندما سُئل عن ضبط وتيرة التطوير، اعتبر أن الوقت مناسب لإجراء هذا النقاش و"التقاط الأنفاس".