[ITmedia News] Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

　米Anthropicは10月15日（現地時間）、AIモデルを評価する米非営利団体METRのチームに、従業員並みのアクセス権限を与え始めたと発表した。ダリオ・アモデイCEOが9月のエッセイ「We Must Pace the Frontier」で打ち出した「常駐評価者」構想を具体化した。

（画像：Anthropic）

　METRのスタッフ6人に、同社の端末とオフィススペースを提供し、社内ツールやシステムへのアクセスを認めた。提供範囲は同社のリスク評価チームとおおむね同等という。顧客データやモデルのアーキテクチャ情報など、少数のカテゴリは共有の対象外とした。

　METRは、同社のリスクレベルやインシデントについての分析を公表する。Anthropicは公表を拒否できないが、事前に定めたカテゴリの情報については伏せ字化を要請できる。METRは、伏せ字化が妥当だったかどうかの見解を公表することも可能だ。

　Anthropicは評価機関との連携を3段階で設計しており、METRは最上位の第3段階に当たる。米SecureBioは公表に同社の承認が必要な第1段階にあり、8月のリスクレポートのうち化学・生物兵器の章をレビューしている。AccentureとFacultyとも連携を進めているほか、Hugging Faceなどとも初期段階の協議を進めている。同社は、すべてのフロンティアAI企業が同様の対応を取るべきだとしている。

　METRは前日の14日、全フロンティアAI企業に向けて評価の提案を公開している。開発企業が社内のAIを制御できなくなるリスクについて、一般の人々が判断できる材料を増やす狙いだ。METRのスタッフが企業の端末上でデータにアクセスし、従業員に個別にインタビューした上で、数週間で予備的な報告書を公表するという。ただし、アクセスは企業の裁量に委ねられるため、社内の上級従業員と同等にはならないとし、提案の限界も明記している。

METRが挙げる3つの評価ポイント。有害な行動を取るか、検知できるか、能力向上が加速しすぎないか（画像：METR）

　米OpenAIのサム・アルトマンCEOもアモデイ氏の9月のエッセイに賛同し、同様の取り組みを実施すると表明している。同社は10月8日、安全性研究者3人を解雇した際、外部の安全性評価機関と契約の最終調整を進めており、数週間以内に詳細を発表する予定だと説明した。