[ITmedia News] MetaのザッカーバーグCEO、AIの協調減速論に「各社が自ら動けばいい」

　米Metaのマーク・ザッカーバーグCEOは9月15日（現地時間）、AIの安全性を巡り、各AI開発企業には自らのモデルを安全に訓練できるペースで開発を進める責任と動機があり、それを実行する能力も備えているとする長文をXに投稿した。8月に公開した論考「The Future is for Everyone」に触れた上で、業界全体での協調を求める最近の議論とは距離を置き、各社がそれぞれ取り組むべきだとの立場を示した。

マーク・ザッカーバーグCEO（画像：Meta）

　同氏は、AI開発企業にはアライメントに取り組む必然性が既にあると主張した。利用者は、自分の意図に沿わず指示通りに動かないエージェントを使いたがらないため、各社にはモデルのアライメントを高める強いインセンティブがあるとし、モデルが害を与えた場合に重い法的責任を負うこともその理由になると述べた。アライメントが追い付くまで能力向上を遅らせるべきかという議論については、信頼性とアライメントはエージェントやモデルを差別化する上で最も重要な能力になりつつあり、アライメントに注力しないAI開発企業は競争で後れを取ると指摘した。

　自社の取り組みとしては、安全性とセキュリティに集中するため、モデル「Muse」の投入を数カ月遅らせたことを挙げた。その際、他社にも同様の対応を求めることはせず、人々にとっても自社にとっても明らかに正しい判断だったため、日常業務の一環として実行しただけだと述べた。

　独立した評価者や助言者を起用することは業界のベストプラクティスであり、同社のAI部門Meta Superintelligence Labs（MSL）では既に複数の領域で実施していると説明。他社も同様に取り組めばよいとの考えを示した。評価者のエコシステムがより大きく、多様になることは業界全体にとって有益だとしている。同氏は8月に公開した論考でも、モデル公開に関する安全基準の承認と適合性の審査を社外の独立した取締役会に委ねる仕組みを導入すると表明していた。

　さらに、再帰的自己改善を巡る競争に計算資源を投入するのではなく、その大部分を人々へのサービス提供に充てることが、この技術を安全に開発する最良の方法の1つだと主張。Metaは既にその方針を掲げており、他社も同様にできると述べた。その上で、すべての人にとって前向きな未来を築く鍵は適切な権力の均衡を保つことであり、それは自分たちの手の届く範囲にあると結んだ。同氏は前述の論考でも、権力の均衡こそが安全の基礎であり、単一の超知能への権力集中は避けるべきだと訴えていた。

　投稿では、業界全体での協調を求める米Anthropicや同社のダリオ・アモデイCEOには言及していない。アモデイ氏は9月12日に公開したエッセイで、第三者の評価者を自社に常駐させる取り組みをまず実施すると表明。その上で、民主主義国のAI開発企業が共通の安全基準や開発速度の制限を設けて協調することを提案し、業界全体で対応すべき問題だと訴えていた。