米中AI覇権競争には軍事衝突のリスクが潜んでいた…このままでは｢デジタル核兵器｣の開発競争が始まりかねない | 政治・経済・投資 | 東洋経済オンライン

INDEX

本連載では、アメリカにおける政治・経済の深層と、ビジネスの未来を方向づける最新トレンドを、日本のリーダー層に向けて発信していく（隔週月曜日）。今回は「デジタル核兵器」のリスクについて取り上げる。

本連載では、アメリカにおける政治・経済の深層と、ビジネスの未来を方向づける最新トレンドを、日本のリーダー層に向けて発信していきます

CNNが9月18日、衝撃的なニュースを報じた。

今春、アメリカ軍は、中東海域を航行する中国船が核兵器の関連部品をひそかに運んでいるとの情報を入手。これを受けて、武装兵士を乗せた軍用機が離陸。同船を阻止し、不法な積み荷を押収するための乗船作戦に向かった。

ところが作戦開始のわずか数分前、追加の裏付けを進めていた当局者が、その情報は生成AIの幻覚だと突き止めた。

米特殊作戦軍の分析官が使ったモデルは、積み荷を核物質と誤認していた。このLLMは、アメリカの機密信号情報（SIGINT）とインターネット上の情報を組み合わせ、虚偽の内容を生成したとみられる。CNNは、その情報が「完全な虚偽」だったと報じた。関係者の一人は「中国との戦争を引き起こしかねないところだった」と述べた。

救いは、アメリカ軍の「ヒューマン・イン・ザ・ループ」が機能したことだ。最終的な攻撃判断は人間の指揮官が握り、当局者は行動前に情報を再検証した。だが同時に、LLMが生成した不正確で誤解を招く情報を基に、人間が重大な決定を下しかねないという深刻な脆弱性も露呈した。

イスラエルは10年以上前、情報分析と目標選定へのAI活用に先鞭をつけた。この技術的突破により、同国軍は極めて高い作戦テンポを維持できるようになった。今やロシア、中国、アメリカなど各国軍もAIによる目標選定を急ぎ、標的の特定から武力攻撃までの「キルチェーン」を短縮している。

とはいえ攻撃判断には、人間による統制とガバナンスを維持することは不可欠である。しかし、ある国が先んじて攻撃判断そのものにAIを組み込んでしまえば、他国はあえて追随するか、もしくは敗北する危険を受け入れるかの選択を迫られる。

さらに厄介なのは、AIを駆使するハッカーが、最も厳重な政府・軍ネットワークを含むシステムに侵入してしまった場合にどのような危険があるか、である。

「デジタル核兵器」

リスクについて、多くの警告が発せられている。

オーストラリア、カナダ、ニュージーランド、イギリス、アメリカの情報機関から成る「ファイブ・アイズ」は6月22日、AIモデルが企業や政府に「壊滅的な損害をもたらすまで、あと数カ月しかない」と警告した。各国の指導者に脅威への「迅速な行動」を求め、民間企業には、セキュリティ業務へAIツールを組み込んで防御力を高めるよう促した。

ジョン・ラトクリフCIA長官は6月30日の講演で、最先端AIモデルの能力を核兵器になぞらえて「デジタル核兵器」と呼んだ。衝撃的な比喩といえるだろう。

この記事は有料会員限定です

残り 2682文字

各タグのフォローボタンをクリックしフォローすると、関連する新着記事をメールで受け取ることができます

シリコンバレー最前線レポート

2026/10/05 更新 27 記事

関連記事

本文の内容に基づいた記事をピックアップしています

フォローすると、最新記事をメールでお知らせします。

きょうごくやすのぶYasunobu Kyogoku

VCファンド「イノベーション グローバル キャピタル」を創業し、代表取締役を務める。サンフランシスコ バレエ団とde Young美術館の理事。コロンビア大学卒業後、オックスフォード大学大学院及び東京大学大学院にて政治経済学を研究。その後、ベイン、森ビル、ファーストリテイリングにて要職を歴任し、企業経営とグローバル戦略に携わる。現職では、経営現場で培った知見を活かし、独自の投資哲学に基づいた「持続的な価値創造」に取り組んでいる。シリコンバレーを拠点に、AI、業種特化型ソフトウェア、デジタルヘルスケア、サイバーセキュリティ、次世代コンシューマービジネスなど、革新的分野への投資・成長支援を主導。「より良い社会の実現」にパッションを持ち、慈善資金とボランティア活動を支援。国際政治・経済・先端技術に精通するグローバル・エキスパートとして日本のリーダー層に向けて講演・セミナーを多数開催している。日本語・英語の完全バイリンガル。仏語は読解と聴解に堪能。長年の滞米経験により、西海岸の政財界・文化界のエスタブリッシュメントと広範なネットワークを構築。ビジネスや私生活で両国間を頻繁に行き来する。