紐約檢方破獲12個色情網站 以AI後製真人影像破千人受害

人工智慧如果被誤用、濫用，結果的確很可怕。紐約檢方週一（14日）宣布，查封了12個利用AI技術非法製作深偽色情影像的網站，受害者多達1200人，其中包括許多演員和政治人物等名人。

曼哈頓地區檢察官白艾榮說明，「光是在查封的12個網站上，我們就發現了超過1200名，被篡改成深度偽造圖像的人。」

人工智慧如火如荼發展，卻被不肖人士用在不法用途。紐約曼哈頓檢方一舉破獲12個色情網站，利用AI深偽技術、未經當事人同意，將真人的面貌或身體竄改或生成色情影像，再發布在付費成人平台上，累計瀏覽量超過300萬次。受害者包括演員、政客、運動員、音樂家及網紅等等，部分家暴受害者也可能蒙受其害。

曼哈頓地區檢察官白艾榮指出，「這些駭人聽聞的隱私侵犯行為，與受害者的職業生涯如影隨形，對他們的精神健康構成極大傷害。」

檢方表示，這次行動主要是因為一位勇敢的受害者挺身而出，才得以揭發，目前已經對受害者進行保護，並且起訴了2名涉案男子， 這也是美國打擊網路深偽犯罪的新法上路後，第一批起訴的案例。

事實上這類性犯罪不只出現在美國，馬斯克旗下xAI開發的AI聊天機器人「Grok」，因為影像生成與編輯功能，遭到大量用戶濫用，生成深偽不雅影像，而且波及未成年人，在今（2026）年年初引發全球監管爭議。

Grok先是遭到印尼、大馬和菲律賓封殺，歐盟、英國、巴西及印度等多國監管機構也展開調查，後來xAI 緊急更新政策，利用技術阻斷並修補漏洞，風波才沒有進一步擴大。不過道高一尺魔高一丈，紐約當局警告，除了色情犯罪，深偽技術也被歹徒用來進行投資詐騙，呼籲民眾切勿上當。