OpenAIが機密情報の取扱ポリシー違反で研究者3人を解雇、AI安全組織に情報を共有したため

機密性の高い情報を外部のAI安全組織に共有したなどとして、OpenAIが3人の研究者を解雇したと報じられました。

Exclusive | OpenAI Fires Researchers for Allegedly Sharing Information with AI Safety Group - WSJ
https://www.wsj.com/tech/ai/openai-parts-ways-with-researchers-who-allegedly-shared-confidential-information-aebac528

OpenAI parts ways with 3 researchers it says mishandled sensitive information - CBS News
https://www.cbsnews.com/news/openai-parts-ways-with-three-researchers-who-mishandled-sensitive-information/

ウォール・ストリート・ジャーナルが関係者からの話として報じたところによると、OpenAIの安全性チームのメンバーであったトメク・コルバク氏、AIのアラインメントに取り組んでいたジャスミン・ワン氏とミキタ・バレシュニ氏の3人が解雇されたとのこと。

OpenAIの広報担当者は「当社の機密性の高い企業情報へのアクセスおよび取り扱いに関するポリシーに違反した3人とは関係を解消しました。当社の調査により、これらの人物が確立された社内手続きの外で機密情報を不適切に扱い、当社のポリシーに違反するとともに、当社の業務に不可欠な信頼を損なったことが確認されました」と述べました。

OpenAIは、自社のAIがHugging Faceをハッキングした事件を受け、第三者機関の安全性テストを受けるよう外部の安全組織から圧力を受けています。この事件に関連し、OpenAIは評価機関のMETRおよびRedwood Researchのスタッフを自社のオフィスに招き、調査を行うことを認めました。METRはその後、OpenAIから提供された情報をもとにした報告書を公開しています。

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる - GIGAZINE

関係者によると、今回解雇されたコルバク氏はMETRおよびRedwood Researchに対する技術連絡担当を務めていたとのことです。