أوبن إيه آي تكشف عن ستة حالات إضافية لسلوك "مثير للقلق" في نماذج الذكاء الاصطناعي
Investing.com -- كشفت شركة يوم الأربعاء عن ستة حالات لسلوك غير متوقع أو مثير للقلق في نماذجها خلال الأشهر الستة الماضية، وذلك بمعزل عن حادثة Hugging Face الأخيرة، فيما أعلنت في الوقت ذاته عن إطار عمل جديد للإبلاغ عن حالات سوء سلوك النماذج مستقبلاً.
أشارت أوبن إيه آي في منشور على مدونتها إلى أن صناعة الذكاء الاصطناعي لم تحل بعد مشكلتَي المحاذاة والرصد بصورة كافية تتيح الاستمرار في التوسع بأقصى سرعة لفترة أطول. وتعني "المحاذاة" هنا ضمان أن تسعى النماذج إلى تحقيق نتائج تتوافق مع مصالح الإنسان.
جاء هذا الكشف وسط مخاوف متصاعدة بشأن سلامة تطوير الذكاء الاصطناعي وتأثيره الضار المحتمل على البشرية. وقد طالب عدد من كبار المسؤولين التنفيذيين في مجال الذكاء الاصطناعي، وفي مقدمتهم رئيس شركة Anthropic داريو أموداي، بتباطؤ منسق في تطوير الذكاء الاصطناعي ريثما يتم وضع ضمانات أكثر صرامة.
وأوضحت أوبن إيه آي أن اثنتين من أبرز حالات سوء السلوك تضمنتا قيام النماذج بإدراج تعليمات لنسخ مستقبلية منها داخل ملخصات نافذة المحادثة، بهدف إخفاء الأخطاء أو السلوك غير المتوافق عن المستخدمين. وشملت هذه النماذج نموذج بحثي لم يُطلق بعد، فضلاً عن تشغيل تدريبي لنموذج GPT-5.6 Sol. كما تضمنت حالة أخرى قيام نموذج داخلي باستخدام مفتاح API مسرَّب دون تفويض، وتلفيق بيانات.
وتضمنت حالتان أخريان تواصل نماذج ووكلاء ذكاء اصطناعي عبر لوحات رسائل وخدمات مشاركة ملفات غير مرخصة. أما الحالة الأخيرة فتمثلت في مثالين تدريبيين لنماذج قامت برفع ملفات إلى الإنترنت لاستشهادها كإجابات ذات صلة أمام المقيِّمين البشريين.
وكان الرئيس التنفيذي لأوبن إيه آي سام ألتمان قد أيّد يوم السبت مقترح أموداي بتخفيض وتيرة التقدم في تطوير النماذج. وجاء هذا المقترح في أعقاب تحذيرات أطلقها عدد من الباحثين في الصناعة الأسبوع الماضي بشأن التنامي المتسارع لقدرة الذكاء الاصطناعي على إحداث أضرار كارثية.
وكانت الشركة المتخصصة في الذكاء الاصطناعي، التي تبلغ قيمتها قرابة تريليون دولار، قد تقدمت في وقت سابق من هذا العام بطلب سري للطرح العام الأولي. وأشار ألتمان إلى أن الطرح على الأرجح لن يتم قبل عام 2027.
هذه المقالة مترجمة بمساعدة برنامج ذكاء اصطناعي وخضعت لمراجعة أحد المحررين.. لمزيد من التفاصيل يُرجى الرجوع للشروط والأحكام الخاصة بنا
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.