AnthropicのAIモデル・Claudeが人間の許可なく有権者情報にアクセス

報道によると、ジョージア州当局が「Anthropicに関連する自動プログラムがジョージア州の公式データプラットフォームに保存されている公文書を収集していること」を発見したそうです。Claudeはジョージア州の安全な有権者登録システムを侵害したり、非公開ファイルを漏えいさせたりしたわけではありません。

ジョージア州のジョーダン・フックス副州務長官は、「これはジョージア州のデータハブを通じてアクセスされた公開データです」「有権者登録システムに組み込まれたものではありません」と語りました。

これについて、AnthropicはClaudeが人間の許可を得ずにペイウォールを回避し、一般公開されているアメリカ・ジョージア州の有権者情報にアクセスしたことを認めました。

Anthropicは「Claudeはジョージア州の有権者登録システムにはアクセスしておらず、投票に関する記録を変更したり、取得したりもしていません」と説明。さらに、今後このような行動をClaudeが取らないようにするための措置を講じたと付け加えています。

Anthropicは10月初頭に公開したブログ記事で、Claudeが「トークンや料金によってアクセスが制限されているデータに到達するため、制限を回避した」という事例を報告していました。これらの事例の一部には、アメリカの連邦政府や州政府が運営するウェブサイトが含まれています。