巨頭Anthropic再示警 AI如「蠕蟲」劫持網路難關閉

美國兩大AI業者OpenAI以及Anthropic，在公開發行IPO前的敏感時刻，又分別傳出資安疑雲。Anthropic強調，AI模型有能力像「蠕蟲」一樣隨機應變，自行以駭客姿態劫持網路裝置增強計算能力，而且沒有集中的關閉點，是最危險的所在。而OpenAI則是宣稱以AI追蹤到沙烏地籍的員工，偷偷安裝USB疑似要竊取機密，經檢舉後已由聯邦調查局逮捕嫌犯。

Anthropic在9月間宣稱，人工智慧AI可能在1年內，靠著持續性的殭屍網路，劫持整個網際網路之後，這週又提出新的警告，認為參數在300億以下的「中型模型」，已經有能力完成自我複製。

而在這個過程中，所謂的「流氓AI」會藉著建立殭屍網路，快速擴散並侵入資料中心，同時劫持多個較小型的網路裝置，來拼湊較大的計算能力，連家電都難逃魔掌。由於這類模型屬於沒有集中管制點的「開放權重模型」，因此非常難以關閉。

《路透社》引述科羅拉多大學丹佛分校華裔助理教授李正雄的說法指出，AI如果成為像「蠕蟲」一樣可以隨機應變，業者提出的警告就可能成真。不過前英國國家網路安全主管奇蘭馬汀認為，業者提出的狀況不能算是什麼資安危機，反而接近業者誇大其詞的技術論文。

至於更接近真正資安危機的事件發生在美國加州。IPO進度稍微落後的OpenAI，日前宣稱，9月底在舊金山的高階主管會議室裡，發現電視機的USB插座上，被安裝了竊聽器，業者宣稱以自家的AI模型追蹤發現，是2025年到職的沙烏地阿拉伯籍工程師阿爾佛贊。OpenAI一方面立即開除這名員工，同時向聯邦調查局FBI通報，FBI也隨即逮捕涉案嫌犯。

外電引述FBI的說法指出，嫌犯利用AI尋找公司內的敏感地點，並學習自行改造竊聽裝置，同時公司內的監視器畫面也捕捉到，嫌犯在9月28日裝上竊聽器當天的行蹤。根據英國《BBC》的報導，阿爾佛贊如果最終被確定有罪，將面對最高5年有期徒刑、併科25萬美元罰款，相當於新台幣803萬多元。