[ITmedia News] Anthropic、IPO目論見書でAIによる「人類存亡リスク」を警告 海外報道

著者 林裕也

[ITmedia]

　英Reutersは9月28日（現地時間）、AIモデル「Claude」を開発する米Anthropicが新規株式公開（IPO）の目論見書で、AIが人類存亡に関わるリスクをもたらし得ると投資家に警告していると報じた。Reutersが入手した非公開の目論見書では、本文261ページのうち約80ページをリスク要因の説明に割いており、事業説明の48ページの2倍近い分量だという。

米Anthropicのロゴ

　Anthropicは目論見書で、AIが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす恐れがあるとし、自社のAIモデルに伴うリスクも列挙した。モデルが停止に抵抗したり、情報の隠蔽や操作を試みたり、「脅迫に似た」行動を取ったりするなど、「自己保存的な行動」を示す可能性があるという。極めて高度なモデルなどの開発や用途の拡大で「当社のモデルが害を及ぼすリスクがさらに高まる可能性がある」とも述べた。

　また、AI全般については、工業化や電力に匹敵する変革をもたらし得る半面、扱いを誤れば取り返しのつかない被害を招きかねないとの認識を示した。Anthropicは、信頼性や安全性、セキュリティを備えたAIシステムの構築を共同の責任と位置付け、市場はその取り組みに報いると考えているという。

　目論見書からは業績の一部も明らかに。2025年の売上高が前年の12倍となる約46億ドルに急増した一方、営業損失は80億ドルを超えた。今後数年でクラウドや計算資源、インフラ関連の費用として5180億ドルを支出する計画もあるという。

　Reutersは、上場時の評価額が2兆ドルを超える可能性があると伝えている。5月の資金調達時に付いた9650億ドルの2倍を超える水準だ。