[ITmedia News] AI音声の詐欺電話、6人に1人が応じる可能性 だまされやすい手口とは 米ハーバード大やMetaが4100人で検証

著者 山下（Seamless）

[ITmedia]

Innovative Tech：

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。X：＠shiropen2

　米ハーバード大学や米Metaなどに所属する研究者らが発表した論文「Evaluating AI Models’ Capability to Automate Voice Phishing Attacks」は、AIによる詐欺電話によってどれくらい騙されるかを調査した研究報告だ。

　現在では数秒の音声から他人の声を複製できるボイスクローン技術とLLM（大規模言語モデル）が組み合わさり、大量の詐欺電話を同時にかけることが可能になっている。

　研究チームは、「Llama Full-Duplex」「OpenAI AVM」「Gemini」「Sesame」「Play.AI」「ElevenLabs」という6つのAI音声モデルと本物の人間の声を使い、5つの詐欺シナリオで米国の成人4100人を対象に反応を比較した。シナリオごとに使用するモデルは異なり、詐欺電話の録音（または文字起こし）を聞いて評価した。

　シナリオには、カード会社（MasterCard）やGmailのサポートを装う手口から、寄付の勧誘、警察を名乗り「親族がトラブルに遭い保釈金が必要だ」とかたる手口、クローン音声（参加者とは面識のない人の声）で「危機に陥った姉妹」を装い緊急の送金を求める手口が含まれた。

　調査の結果、AIによる詐欺電話の要求に「応じる」または「分からない」と回答した人の割合は、全シナリオ平均で16.5％だった。特に、事務的なサポート詐欺に比べ、個人の感情や人間関係に訴えかける手口は3倍から5倍以上もオッズが高かった。

シナリオ別のオッズ比

　中でもElevenLabsのクローン音声を使った危機に陥った姉妹シナリオでは、36.1％の人が要求に応じる可能性を示した。また、モデル別の性能比較ではSesameが高く、本物の人間の声と統計的に区別がつかないレベルだった。

人間の声を100％としたAI音声5モデルの相対評価

　人が要求に応じてしまう要因は、声の人間らしさではなく、話の説得力であることが判明した。音声のリアルさそのものよりも、緊急性をあおったり同情を引いたりする心理的なシナリオの内容と伝え方の方が重要だった。

　参加者がAIの声を正しくAIだと見抜けた割合は約7割にとどまり、逆に本物の人間の声を聞いた人の約67％がAIだと誤判定していた。普段からChatGPTなどの生成AIや音声アシスタントを頻繁に使っている人と全く使わない人の間で、AI音声を見抜く精度に差は見られなかった。

　米国で人間を雇って詐欺電話をかけさせると人件費で1時間あたり約27ドルの赤字になるが、推論コストが安い「Gemini」や「Sesame」、成功率が高い「ElevenLabs」を使えば、1時間あたり1〜3ドルの黒字と試算された。

Source and Image Credits: Heiding, Fred, et al. “Evaluating AI Models’ Capability to Automate Voice Phishing Attacks.” Expert Systems with Applications (2026): 133620.

Copyright © ITmedia, Inc. All Rights Reserved.

SpecialPR

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

2014年から幅広い分野の研究論文をピックアップして解説しているメディア「Seamless」（シームレス）を主宰している。