[ITmedia News] 相次ぐサイバー攻撃に「AI悪用の可能性」……初来日のAnthropic共同創業者が言及 悪用どう抑止

　「おそらく、AIツールが使われている可能性はあるだろうと推測している」──米Anthropicの共同創業者のジャック・クラーク氏が初来日し、同社の日本法人が10月14日に開いたメディア説明会に登壇した。講演では、報道陣の質問に答える形でサイバー攻撃とAIの関係性についても言及する一幕も。悪用の抑止に向けて同社がどう取り組むか、現在の方針も説明した。

ジャック・クラーク氏

　クラーク氏は世界で相次ぐサイバー攻撃について「ハッカーも企業と同じように、使えるツールを使う」と、AIが使われている可能性があるとの見方を示す。同社は悪用防止の「セーフガード」や、企業に優先して最新AIモデルを提供する「Project Glasswing」を通して対策を講じているとしつつ、他社モデルやオープンウェイトモデルも存在するため、Anthropic1社の対策で事態は改善しないとの見方を示した。

　「責任ある行動を取るのがAnthropicだけでは不十分。エコシステム全体としてこの問題を解決する必要がある。そのため、私たちは政策議論に時間を割いている。全ての事業者に等しく適用され、誰にとってもより安全な環境を生み出す、常識的な交通ルールを作ることを目指している」（クラーク氏）

　ただし、記者からの「AIが自律的に攻撃を行った例はあるか」との質問に対しては「確認していない」と否定した。

　クラーク氏は、AIが自らを改良し性能向上を続ける「再帰的自己改善」（RSI）についても触れた。早ければ2027年にも可能になり得ると述べた自身のニュースレターに言及し「今年、AIシステムが数学から生物学に至るまで、科学的なタスクで創造性を発揮し始めている証拠が出てきた。AI研究も科学の一つの形。来年にはAIによる科学が非常に速いペースで進歩し始める可能性を想定しておくべき」と説いた。

東條英俊代表執行役社長

　講演にはAnthropic日本法人の東條英俊代表執行役社長も登壇。クラーク氏と同じく相次ぐサイバー攻撃について触れ「Mythosが登場したのが春で、そのころから予想できたことではあった」と指摘した。一方で「今からでもできることはある」と、AIを活用した対応を促した。