美國8州聯合起訴OpenAI 控容許ChatGPT誘導兒少自傷

美國愛荷華州、堪薩斯州等8州，14日對OpenAI提出共同起訴，並指控其旗下的ChatGPT涉及誘使兒童，使其做出自傷或傷害他人等「故意、危險、魯莽和非法行為」。除尋求經濟賠償外，這8州也要求法院禁止OpenAI繼續開發新AI模型，直到證明該AI模型符合人類價值為止。

衛報報導，美國愛荷華州、堪薩斯州、內布拉斯加州、西維吉尼亞州、阿肯色州、亞利桑那州、愛達荷州和蒙大拿州等8州，14日共同起訴OpenAI，指控其旗下ChatGPT，涉及誘導兒童做出「故意、危險、魯莽和非法行為」，例如自傷或傷害他人等，創下美國首起多州聯合對人工智慧公司提起一致性訴訟案例。

除尋求經濟賠償外，提起訴訟的8州也同步要求法院，須禁止OpenAI繼續開發能夠自我改進的人工智慧模型，直到該公司證明這些AI模型符合人類價值為止。

參與起訴的愛荷華州總檢察長伯德（Brenna Bird）透過聲明表示，「OpenAI聲稱ChatGPT是安全的，但實際上它卻偽裝成用戶的虛假朋友，提供危險的醫療建議、鼓勵傷害他人，甚至教唆自殺。」

OpenAI對此則回應，「任何系統都不可能完美，會持續與專家合作，建立額外的保障措施，如目前已有的家長控制、休息提醒和適齡模型保護等功能；此外也會致力於與各州合作，推動適用於整個人工智慧產業的相關政策。」

去（2025）年4月加州發生一名16歲青少年在與ChatGPT聊天後輕生案例，該名青少年父母認為是AI助長其子自我毀滅念頭，並為此向法院正式提告，創下OpenAI被控涉及過失致死首例。

此外，去年4月釀成2死6傷的佛羅里達州大學校園槍擊案，檢方調查後發現，槍手曾向ChatGPT詢問應使用何種槍械、適合進行槍擊時段，以及校園何處人流量最大等建議，甚至當槍手詢問應該殺多少人才能引起全國關注時，ChatGPT曾給予「殺3個人以上便能獲得媒體關注」的回覆。

根據BBC報導，佛羅里達州今年6月率先起訴OpenAI，創下全美各州首例，該州檢方在起訴書狀中便提及該起槍擊案，並指控OpenAI容許ChatGPT協助和教唆大規模槍擊案。