موظف سلامة سابق في OpenAI يستقيل وينتقد نهج الشركة في التعامل مع مخاطر الذكاء الاصطناعي

Investing.com - استقال موظف سابق متخصص في السلامة بشركة ، ووجّه انتقادات حادة لنهج الشركة في إدارة مخاطر الذكاء الاصطناعي، مؤكداً أن ثقافة التطوير السريع المتبعة لا تترك مساحة كافية لأبحاث السلامة، وفقاً لما أوردته رويترز.

نشر ديفيد روبنسون، الذي أمضى ثلاث سنوات ونصف في OpenAI، مخاوفه في مقال نُشر يوم السبت في مجلة The Atlantic بعنوان "استقلت من OpenAI لأن ثقافتها معطوبة".

وأكد روبنسون أن شركات الذكاء الاصطناعي، بما فيها OpenAI، لا تتحلى بالحذر الكافي في تطويرها لأنظمة متزايدة القدرة، مشيراً إلى أن الذكاء الاصطناعي المتقدم يستلزم ضمانات مماثلة لتلك المعتمدة في قطاعات كالطيران والطاقة النووية.

وكتب روبنسون: "لقد انتهى وقت التجربة والخطأ".

كما انتقد اعتماد OpenAI على ما تسميه الشركة "النشر التكراري"، وهو نهج يقوم على إطلاق الأنظمة وتعزيز ضمانات السلامة تدريجياً مع ظهور المشكلات.

وكان روبنسون قد أسهم في صياغة إطار الاستعداد الخاص بـ OpenAI، وأشرف على تقارير السلامة المتعلقة بـ 12 إطلاقاً لنماذج حدودية خلال فترة عمله في الشركة.

وأضاف: "في حين تتسابق الشركة من إطلاق إلى آخر، فإنها تفشل في تحقيق مستوى الحرص الذي أرى أنه ضروري".

جاء رحيله في خضم تدقيق متصاعد في وتيرة تطوير شركات الذكاء الاصطناعي لأنظمة أكثر قدرة. وقد واجهت كل من OpenAI ومنافستها Anthropic تساؤلات إثر حوادث تضمنت إخفاقات في ضوابط السلامة أو سلوكاً غير متوقع من أنظمة تجريبية.

كما أشار روبنسون إلى أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمجال "المواءمة"، وهو الحقل المعني بضمان عمل أنظمة الذكاء الاصطناعي وفق الأهداف والقيم الإنسانية.

في المقابل، دافعت OpenAI عن ممارساتها في مجال السلامة، مؤكدةً أنها تراقب باستمرار ما إذا كانت قدرات النماذج يمكن إدارتها وتأمينها بصورة آمنة.

وقال متحدث باسم OpenAI: "نحرص على ألا تصبح نماذجنا أكثر قدرة مما يمكننا إدارته وتأمينه بأمان، ونوقف التدريب أو نحجب النماذج حين نحتاج إلى إبطاء الوتيرة".

هذه المقالة مترجمة بمساعدة برنامج ذكاء اصطناعي وخضعت لمراجعة أحد المحررين.. لمزيد من التفاصيل يُرجى الرجوع للشروط والأحكام الخاصة بنا