OpenAI تعتزم إصدار تقارير دورية عن السلوك غير المتوقع للذكاء الاصطناعي

أعلنت شركة OpenAI، الأربعاء، عزمها إصدار تقارير دورية بشأن السلوكيات غير المتوقعة أو غير المصرح بها للذكاء الاصطناعي، محذّرة في الوقت نفسه من أن القطاع لم يُعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج مع الأهداف المرجوة، في ظل تزايد قوة الأنظمة.

وأصدرت الشركة إطار عمل جديداً لتتبع حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب 6 تقارير عن سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.

وقالت الشركة، في بيان: "في الماضي، ومن أجل إعلام الباحثين ومطوري الذكاء الاصطناعي وصانعي السياسات وعامة الناس بشكل أفضل، سعينا إلى جعل النتائج التي توصلنا إليها بشأن عدم التوافق عامة، ولكن في غياب نهج منهجي للإبلاغ عن هذه النتائج، كانت إفصاحاتنا مخصصة وأقل تواتراً من المثالية: فقد انتظرنا في كثير من الأحيان حتى نتمكن من جمع عدة حالات في تقرير واحد، أو إضافتها إلى بطاقات النظام للنماذج التي صدرت حديثاً، ويهدف هذا الإطار الجديد إلى تسريع نشر تقارير عدم التوافق بعد الملاحظة، حتى عندما لم نشرح أو نخفف بشكل كامل من السلوك الذي نقوم بالإبلاغ عنه".

وتتضمن التقارير الأولية حالات تتعلق بنماذج تُنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونة دون تصريح.

أوضحت OpenAI أنه "مع تزايد تقدم أنظمة الذكاء الاصطناعي وانتشارها على نطاق أوسع، نحتاج إلى بناء إجماع أوسع وأفضل استنارة بشأن التقدم المحرز في أبحاث المواءمة.. نحن لا نعتقد أن صناعة الذكاء الاصطناعي حلت مشكلة التوافق والمراقبة بدرجة كافية لمواصلة التوسع بشكل مسؤول بأقصى سرعة لفترة أطول.. إن القرارات المتعلقة بكيفية المضي قدماً في تطوير الذكاء الاصطناعي في الأشهر والسنوات المقبلة، تحتاج إلى الاعتماد على الأدلة التي يمكن للأشخاص خارج الشركات التي تبني نماذج حدودية فحصها بأنفسهم".

وأشارت الشركة إلى أن التقارير تصف حالات فردية وينبغي عدم أخذها دليلاً على مدى تكرار حدوث عدم المواءمة عبر نماذجها، موضحة أن "أمثلة عدم التوافق في تحديد المشكلات التي قد يواجهها مطورو الذكاء الاصطناعي، ربما تساعد الآخرين عندما تصل أنظمتهم إلى قدرات مماثلة، أو تكشف عن نقاط ضعف في الضمانات، أو تتحدى الافتراضات حول سلوك النموذج".

وتابعت: "مشاركة هذه النتائج تسمح للآخرين بالتحقيق في نفس المشكلات، واختبار تفسيراتنا، وتحسين التخفيفات، ولأننا نؤمن بقيمة الشفافية في ما يتصل بعدم التوافق، فإن إطارنا الجديد يفضل الإفصاح حتى عندما تكون الأهمية غير مؤكدة، وهذا يعني أن بعض الحالات التي نكشف عنها قد تكون زائفة وليست جزءاً من نمط أكبر أو توحي بتطورات مستقبلية".

يأتي قرار OpenAI في ظل تزايد المخاوف من أن جهود السلامة المتعلقة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.

ولفتت الشركة إلى أنه في الوقت الحالي، لا يوجد إطار عمل على مستوى الصناعة يتضمن معايير واضحة لكيفية كشف مطوري الذكاء الاصطناعي عن أمثلة عدم التوافق في نماذجهم، معربة عن أملها في أن يكون الإطار الجديد بمثابة خطوة أولى نحو إنشاء مثل هذه المعايير، وتحديد حالات عدم التوافق التي يجب على المطورين الكشف عنها وما يجب أن تحتويه تقاريرهم، معتبرة أن هذا الإطار بمثابة عمل قيد التنفيذ، متعهدة بالعمل على تحسينه من خلال الخبرة وردود الفعل العامة.

وحذّر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تُطور سلوكيات تنحرف عن النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.

وسيتضمن الإطار الجديد للشركة عملية تمكن الموظفين من الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاماً لتحديد الحالات التي تستدعي الكشف عنها علناً.