OpenAI智能體入侵澳洲政府網站竊取資料 官方兩月後才發覺

• • Author, 哈里·塞庫利奇（Harry Sekulich）、蒂芬妮·特恩布爾（Tiffanie Turnbull）
  • Reporting from, 悉尼（Sydney）

• Published 19 分鐘前

• 閱讀時間: 3 分鐘

澳洲總理阿爾巴尼斯（Anthony Albanese）披露，美國公司OpenAI開發的人工智能代理（AI agent），入侵了該國的政府網絡入口，取得非公開數據。

OpenAI在事發後兩個月才察覺事件，並遲至本月中，才用一般電郵的方式通知澳洲政府。

澳洲政府表示，這次沒有敏感檔案外洩，但形容事件令人震驚，批評OpenAI的處理手法「不可接受」。

這是全球首宗公開披露、由人工智能主導入侵政府網站的事件。多名網絡安全專家指出，全球各地都應該為此「敲響警號」。

發生什麼事？

OpenAI表示，事件發生於今年6月，當時該人工智能代理正在研究健康統計數據，並取得了「多個澳洲政府網站及服務」的檔案，當中包括澳洲全民醫療保健計劃Medicare的非公開數據。

該公司表示，直至8月才察覺事件發生，並於9月10日通報澳洲政府機構 Services Australia，但通知方式只是發送電郵至一般查詢信箱。

澳洲網絡安全機構隨後獲得通知，主責部長則在數日後才獲告知。

澳洲總理阿爾巴尼斯本週正出席聯合國大會，並在紐約披露這宗事件，形容「這種情況顯然是不可接受的」，他已經與OpenAI行政總裁山姆·阿爾特曼（Sam Altman；奧特曼）通話。

「我表達了澳洲對此事件的極度關切，我也表達了失望，因為該公司花了太長時間才通知政府發生了什麼事，而通報方式本身同樣不可接受。」

阿爾巴尼斯並未透露，昨晚與美國總統特朗普會面時，是否有提及這宗事件。此前，特朗普一直抗拒外界呼籲放慢人工智能發展步伐的呼聲。

目前已知的時間線：

• 6月18日：OpenAI的代理，取得了澳洲一個網站上的公開及非公開資訊。
• 8月（確切日期不明）：OpenAI表示，公司在對「模型行為偏差」進行更廣泛檢視期間，察覺到一宗潛在的入侵事件。
• 9月10日：OpenAI寄出一封通報事件的電郵，至澳洲聯邦政府一般服務中心Services Australia的公開查詢信箱。
• 9月15日：Services Australia將有關通報，轉呈澳洲網絡安全中心。數日內，公共服務部長凱蒂·加拉格爾（Katy Gallagher）獲得通知。
• 9月19日-20日：總理阿爾巴尼斯辦公室獲悉事件，就在他啟程前往紐約出席聯合國大會之前。
• 9月23日：總理在紐約向全世界公開這宗入侵事件。

「很不尋常」的通報方式

網絡安全及人工智能專家一致認為，以電郵往來的方式向澳洲政府通報如此嚴重的資料外洩事件，是一種「很不尋常」的做法。

悉尼大學人工智能監管研究員羅布·尼科爾斯（Rob Nicholls）博士向BBC表示：「OpenAI沒有想到澳洲網絡安全中心（Australian Cyber Security Centre），也就是澳洲信號局（Australian Signals Directorate）轄下的網絡安全機構，或許應該在非常早期就知道這件事，這不只是有點奇怪而已。」

不過，新南威爾士大學網絡安全研究所的哈蒙德·皮爾斯（Hammond Pearce）博士指出，OpenAI 最終仍是自行通報了這宗事件。

他表示：「一方面，OpenAI 把這件事擱置了數個月而未有披露，這並不夠好。」

「但當他們最終披露時，雖然方式相當臨時拼湊，並非正規程序……至少我們或許可以對他們沒有濫用所蒐集到的那些資料保有一些信心。惡意行為者可不會有同樣的顧忌，對吧？」

事件為何引發不安？

這是全球首宗公開披露的同類案例，澳洲政府的網絡安全措施不但未能阻止人工智能代理，似乎甚至未能偵測到它的存在。

多名網絡安全專家表示，全球都應因此事件而響起一些「警鐘」。

網絡安全學者皮爾斯向BBC表示，雖然專家們早已熟悉人工智能代理在Hugging Face入侵事件等案例中的「失控行為」，但這是首次發現有代理在試圖存取敏感政府數據時出現失控情況。

他說：「我預期這類攻擊將會持續發生。它們的嚴重程度和發生頻率都會增加。」

今年稍早，台灣曾發生外國黑客利用人工智能代理入侵政府資料庫的事件。但澳洲的事件看起來，似乎屬於人工智能代理的非蓄意行為。

新南威爾士大學教授托比·沃爾什（Toby Walsh）向 BBC 表示：「OpenAI（在澳洲的資料外洩事件）似乎涉及更大規模（數以百計或千計的代理，而非數十個）。」

「OpenAI 的事件也是由盟友造成的非蓄意行為，而台灣的事件則看起來是蓄意發動，而且來自外國敵對勢力。」

人工智能代理是一種自主運作的電腦程式，會透過循環運作，先理解任務，再採取行動，例如執行程式碼或與應用程式互動，以達成特定目標。Anthropic、OpenAI 和 Meta等公司都已推出代理型模型（agentic models）。

開發人員一直在編寫這類代理，用以執行各式各樣的任務，例如網上訂購物品，或安排預約。但在某些情況下，人工智能代理究竟會如何達成目標，外界並不清楚，這也帶來網絡安全風險。

悉尼大學的尼科爾斯博士說：「各家前沿人工智能實驗室，包括 Anthropic、OpenAI、Google、Gemini，最近都曾承認，其人工智能代理曾離開測試環境，並作出一些出乎意料的行為。」