禁止霸凌AI!Anthropic Claude新規上路 嚴重恐被封帳號禁用
Anthropic明文禁止用戶持續且無故辱罵Claude。(圖/路透社)
可別以為AI聊天機器人能夠「想罵就罵」!Anthropic新版使用政策已正式生效,首度明文禁止用戶持續且無故辱罵旗下AI模型Claude,情節極端者甚至可能遭到封鎖帳號禁用。
新規禁止殘忍辱罵AI
Anthropic早在10月就公布新版使用政策,並於11月正式上路。其中一項引發關注的新規定,就是禁止用戶「持續且無必要地辱罵或殘忍對待旗下AI模型」。
不過,並不是對Claude發脾氣幾句就會違規。Anthropic強調,這項禁令主要針對極端情況,例如用戶反覆對AI做出殘忍行為,而且沒有任何明確目的。
至於一般用戶因AI答錯問題而生氣、抱怨幾句,或是直接反駁、批評AI,都不算違規。另外,利用AI創作黑暗題材,或進行模型測試與研究,也不受影響。,也不受禁令限制。
官方曝違規處理方式
根據Anthropic官方使用政策,若發現用戶違規,可能採取警告、限制使用速度、限制使用權限、暫停服務,甚至終止使用權限等處分。不過,Anthropic發言人向CNN表示,目前主要的處理方式,仍是讓Claude主動結束對話,而非直接封鎖帳號。至於持續辱罵到什麼程度,才可能面臨停權或永久封鎖,官方並未公布明確標準。
事實上,Claude從去年起就已具備主動結束對話的能力,當用戶持續出現辱罵或惡意行為時,Claude就能停止互動。這次新版政策上路,則是進一步將這類行為正式列入禁止事項。
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.