Claudeを日記として使用した女性がAnthropicに内容を通報されて逮捕される

Claudeには特定の表現や脅威につながる可能性のある内容を検出する安全対策が導入されています。また、Anthropicの利用規約は、同社の製品を暴力や脅迫の助長に使うことを禁じています。加えて、政府機関からの要請に関する方針では、死亡や重大な身体的被害の危険がある緊急事態に、必要と判断した場合は、法執行機関へユーザー情報を開示する可能性があるとしています。

今回の書き込みは内容が深刻だったことから人間のレビューチームに送られ、確認後に法執行機関へ報告されたとのこと。つまり、Claudeが自ら警察に通報したわけではなく、安全システムが検出した内容を人間の担当者が確認したうえで通報されました。

通報を受けた保安官事務所は、女性を特定し、自宅を訪問。女性は抵抗せずに拘束され、その後、同保安官事務所の情報部門の刑事が捜査を引き継ぎました。女性はフロリダ州法に基づく「書面による暴力の脅迫」の罪に問われています。

フロリダ州法では、殺害や傷害、銃乱射事件、テロ行為などの脅迫を含む文章や電子的記録を、他人が閲覧できる方法で送信・投稿する行為を犯罪としています。テクノロジー系メディアのTechSpotによると、この罪は第2級重罪に分類されるそうで、女性は11月に出廷する予定です。

リー郡のカーマイン・マルセノ保安官によると、女性はClaudeを「日記のように使っていた」とのこと。マルセノ保安官は、「AIは強力なツールである一方、他の技術と同様に悪用される可能性がある。AIを使った脅迫であっても、当局はその脅威を深刻に受け止める」と述べています。