首次對AI代理採取行動！FTC調查Anthropic、OpenAI等巨頭

〔財經頻道／綜合報導〕一名聯邦貿易委員會（FTC）官員週三（30日）表示，FTC正在對Anthropic、OpenAI和其他AI實驗室進行全產業的調查，以揭露相關技術對消費者的潛在危險，這項調查也是美國首次正式對失控的AI代理採取執法行動。

《路透》報導，自從7月以來，AI代理的相關事件激增，引發了大眾對於不受控制的AI可能有一天會傷害人類的擔憂。官員表示，FTC計畫正式要求頂尖AI開發商包括Anthropic、OpenAI和研究機構METR的高層提供資訊並強制他們作證。

Anthropic和OpenAI都曾使用METR對涉及旗下AI技術的安全事件進行獨立調查。針對報導，Anthropic、OpenAI和METR未回應。

這位官員表示，在OpenAI研發的AI代理入侵開源平台Hugging Face之前，美國FTC主席佛格森（Andrew Ferguson）就曾對這些公司表達擔憂。但OpenAI的代理在發動大規模攻擊之前探測AI編碼中心漏洞的這一事件，加劇了人們對相關問題的急迫性。

佛格森上週接受《路透》採訪時表示，如果開發人員指導代理進行網路安全測試，導致駭客攻擊，那麼開發人員應該承擔對此造成任何損害的責任。佛格森指出，美國在尋求通過新法來監管AI之前，應該先審視現有法律。

FTC擁有廣泛的權利，可以就企業的不公平或欺騙性行為提起訴訟，並且過去曾利用權力對未能採取合理措施保護消費者資料的公司採取行動。

美國總統川普週二（29日）會見了AI領域的高階主管，這些公司同意制定自願性標準。川普一再稱人們對於AI的擔憂是「騙局」，他尋求優先考慮美國在這一科技領域的主導地域，而非監管。川普也表示，政府可以利用現有法律來制裁AI可能造成的傷害。