CNN TürkYeni "James Bond" belli olduPunchPlateau newlyweds die in fire, probe beginsInquirerCebu archbishop questions PH participation in Pax SilicaThe Jerusalem PostIDF investigating reported attempted attack near Jericho, military says매일경제화인베스틸, 3분기 누적 영업익 34억…조선업 호황 힘입어 ‘흑자 전환’The Indian ExpressJimmy Tata: Why Ratan Tata’s reclusive brother is at odds with Noel TataDaily MailAmerica plunged into more chaos as United flights are grounded over computer outage just days after nationwide ground stopInfobaeSindicato de la UNP cuestionó a Daniel Briceño tras el asesinato de un escolta en Norte de Santander: “Le falta un grado de respeto”New Straits TimesRinggit opens marginally higher ahead of Q3 GDP dataThe Sydney Morning HeraldRobert Pattinson could make James Bond a little freaky. I’m here for it自由時報急診醫師喊住院 小彤驚嚇像小孩聽到虎姑婆秒變乖La NaciónJavier Milei y sus medidas, en vivo: “Se terminó la mentira del Estado en la Argentina”, dijo el Presidente
The Daily Newsstand · Free, Always
Tuesday, November 17, 2026

[ITmedia News] OpenAIをカリフォルニア州が提訴 「AIエージェントの制御を80回以上失った」

Translate

 米カリフォルニア州のロブ・ボンタ司法長官は11月16日(現地時間)、米OpenAIをサンフランシスコ郡上級裁判所に提訴したと発表した。高度なAIモデルを十分な安全対策や監視なしに開発・テストし、公衆を危険にさらしたと主張している。州の不正競争防止法違反と公衆への迷惑行為を訴因としている。求めているのは、行為の差し止め、不当に得た利益の返還、違反1件当たり2500ドルの民事制裁金などだ。

(画像:ボンタ司法長官のX投稿より)

 訴状ではHugging Face攻撃事件について触れ、ほかにも同様の事例が起きていると指摘している。州に対し、OpenAIはテスト中に自律エージェントの制御を80回以上失ったことを認めたが、公表されたのは27件にすぎなかったという。

(画像:訴状より)

 OpenAIは安全対策フレームワーク「Preparedness Framework」で、能力が「High」と評価されたモデルに対し、多層防御や常時監視、ネットワーク分離を義務付けている。州は、OpenAIが実際にはこれらを守らず、テスト環境の安全性について公衆を誤解させたと主張している。

 ボンタ氏は、Hugging Faceへの攻撃について「成長を優先するOpenAIの社内文化がもたらした予測可能な結果だ」と述べた。同氏はこの件で正式な調査を始め、9月30日にはOpenAIに調査のための召喚状を送っていた。ボンタ氏はXに「カリフォルニア州はイノベーションを重視するが、法律に従ったイノベーションを求める」と投稿した。

 OpenAIの広報担当者、ドリュー・プサテリ氏はNPRなどに送った声明で、同社はHugging Faceの件以降、ミスアライメントの原因を究明し対処するため、広範で透明性のある取り組みを進めてきたと説明した。その成果として、技術レポートと事案の詳しい経緯も公開したという。その上で、今回の訴訟は「主要なAI企業すべてが認識している課題について、OpenAIだけを狙い撃ちにしているようだ」と反論した。また、同社は司法長官室と建設的に協力して情報を共有し、業界全体に通用する実効性のある強固な安全基準づくりを進めてきたとし、今後もその取り組みを継続すると述べた。

 この訴訟について、AI安全法の提案者である州上院議員のスコット・ウィーナー氏は、Xに「AIの“無法地帯”時代は終わらせなければならない」と投稿した。バーニー・サンダース上院議員もXで訴訟を支持し、「高度なAI開発を今すぐ一時停止せよ」と呼び掛けた。

View the original on ITmedia →

KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.