"أوبن إيه آي" تطلق آلية لتتبع سلوكيات الذكاء الاصطناعي
أعلنت شركة "أوبن إيه آي"، أنها ستبدأ إصدار تقارير دورية ترصد السلوكيات غير المتوقعة أو غير المصرح بها لنماذج الذكاء الاصطناعي، محذرة في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الجوهرية المرتبطة بمواءمة النماذج مع الأهداف المقصودة، خاصة مع تزايد قوة الأنظمة وتطورها.
وأصدرت الشركة إطار عمل جديدا يهدف إلى تتبع حالات عدم المواءمة في نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب نشر 6 تقارير أولية بشأن سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.
وتتضمن التقارير الأولية حالات تنشئ فيها النماذج تعليماتها الخاصة في ملخصات المهام، وتحاول إخفاء الأخطاء، وترفع ملفات على الإنترنت بغرض الاستشهاد بها، بالإضافة إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح مسبق.
وأوضحت "أوبن إيه آي" أن هذه التقارير تصف حالات فردية، وينبغي عدم اعتبارها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها، مؤكدة أن الإطار الجديد يتضمن عملية تتيح للموظفين الإبلاغ عن وقائع محتملة، وتحقيقات تجريها فرق السلامة والمواءمة، ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المرتبطة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تظهر سلوكيات تنحرف عن النوايا التي صممها المطورون، ويصبح من الصعب مراقبتها أو التحكم فيها.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.