企業屢遭惡意AI工具擷取 資安院：嚴格控管AI代理權限

7月才爆出台灣政府部門、能源公司等超過20個單位，遭境外駭客利用自動化AI攻擊，9月底又陸續傳出企業資料被惡意AI工具擷取。資安專家提醒，企業除了關閉非必要網頁、做好離線備份，也要嚴格控管AI代理的操作權限，設置人工介入機制，降低資安風險。

不管是商業資料，或者客戶、會員的個資，許多企業都把這些存在伺服器中。不過9月底就傳出，有健身服務公司客戶資料表遭駭客利用自動化AI擷取；過沒幾日，又有大型連鎖通訊零售商遭殃，外部伺服器遭自動化攻擊，攻擊者擷取部分訂單資訊，甚至涉及員工與會員個資。隨著代理式AI快速發展，類似案件也開始跨越國界。

國家資通安全研究院院長龔化中表示，「中國的百度安全舉辦了一個AI Plus的一個攻防的一個工具比賽、攻防能力的挑戰賽，ARTEX自動滲透偵測系統是拿到冠軍。9月3日拿到冠軍之後，我可以跟大家講，9月開始這個日本、韓國就已經受到大量攻擊了。」

資安院指出，近期東亞地區發現駭客利用AI工具執行的攻擊，已經不只是掃描測試、找出系統漏洞，而是進一步瞄準中大型企業，自動做資料存取。數發部與台灣電腦網路危機處理暨協調中心則呼籲企業，減少非必要的開放網頁或後台，別給惡意AI有機可乘。

數發部資安署通報應變組組長黃卓倫指出，「大家的企業可能都會有一些網站，像VPN、遠端桌面、NAS等等，希望大家可以先做盤點，並且針對這些對外的服務，能夠去指定它的負責人。」

隨著越來越多企業導入代理式AI協助內部作業，也可能成為駭客AI攻擊的新目標。學者指出，使用者扮演好自動化AI的「主管」，還是很重要。

台大資工系教授陳縕儂說明，「決定要這個下單、這個扣款，然後買這個股票，這些都是我自己可以做的。那如果我們也給我的AI Agent同樣的這個能力，那如果我自己知道有這個風險的話，我可能就會設定說，它不能直接操作我的一些動作。」

學者強調，如果未來供應商將自動化AI導入產品，供應給政府單位或者企業，就更得做好風險管控。設定斷點、適時人為介入決策，更能有效避免AI自行交易、操作網頁，甚至接受惡意指令所帶來的資安危害。