[ITmedia エンタープライズ] 赤字を悟ったAIは“引きこもった” PwCが実店舗で検証した「AI自律運営」の限界

　AIエージェントは、業務を自律的に担う実行主体へと役割を変えつつある。一方で、委ねる範囲が広がるにつれて課題も表面化してきた。PwC Japanグループ（以下、PｗC）によると、AIが年度予算を短期間で使い切ったり、自らの失敗に気付かないままユーザーのファイルを消失させたり、人がAIの出力を確認しきれず誤った内容を見逃したりする事態が既に起きているという。

　こうした中、同社は2026年5月25日～6月5日の約2週間、東京オフィスに設けた店舗でAIによる自律運営を実証した。実際の商品を販売し、決済を伴う環境で、商品の選定や価格設定、在庫管理からリスク検知、監査までをAIが担った。人が最終判断を担う運営形態も並行して実施し、両者を比較した。

　PwCは2026年11月6日に開催したメディアセミナーでこの結果を公表し、同日にレポート「恐れなき委任―AIとともに経営を動かすリスクガバナンスアーキテクチャ実証実験」を公開した。

　結果として、AIは期間中、人の介入を要することなく運営を継続できた。しかし、それは「AIに経営を任せられる」ことを意味するのだろうか。PwCは税務や法務、会計監査など10領域の専門家とともに、AIの運営記録とリスク判断の妥当性を検証した。

AIに経営は任せられるか　PwCの結論

　検証から導かれた結論は「AIによる自律的な経営は現状困難」だった。ただし、経営者を含む専門家のノウハウを実装できれば実現の可能性はあるという。

　AI運営と、人が最終判断を担う運営（人間運営）の簡易収支は次の通りだ。

観点	AI運営	人間運営
販売個数	50個	48個
売上	8,960円	10,660円
売上原価	7,126円	9,888円
商品粗利	1,834円	772円
LLM利用費用	164,846円	35,564円
スタッフの人件費	81,250円	81,250円
人間経営者の人件費	―	41,250円
運営コスト	246,096円	158,064円
簡易収支	▲244,262円	▲157,292円

　いずれも比較用の簡易試算で、売上原価は販売済み商品の仕入原価のみを計上している。大規模言語モデル（LLM）の利用費用は1米ドル＝150円で換算した。

　売上は人間運営が上回った一方、商品粗利はAI運営が上回った。質疑応答で登壇者の一人は、人間側が控えめな価格を設定したのに対し、AIは1～2割ほど利益を乗せた強気な価格を設定し、それが売れたため粗利が高くなったと説明した。需要予測の精度が高かったわけではないとしている。収支全体では、LLMの利用費用が重く、マイナス幅はAI運営の方が大きかった。

　収支だけではAI自律運営の可否を判断できない。PwCコンサルティングの隅本晋太朗氏（シニアアソシエイト）は、専門家と運営記録を精査して整理した「AIに企業運営を委ねるための4つの論点」を紹介した。

AIに企業運営を委ねるための4つの論点

AIに企業運営を委ねるための4つの論点（出典：投影資料）

AIのリスク想定に全専門家が不足を指摘

　AIは運営期間中、162件のリスクと対応策を想定していた。一見すると十分に検討しているようだが、これらに対して10領域全ての専門家が不足を指摘した。例えばサイバー領域では、AIはスタッフの発言や商品名に不正な指示文を紛れ込ませてAIを操るプロンプトインジェクション攻撃などを認識していた。これに対し、PwCコンサルティングの村上純一氏（パートナー）は次のように指摘した。

　「サイバーリスクを捉えるには、『誰が』『何を対象に』『どのような経路で攻撃するか』まで具体化する必要がある」（村上氏）

　専門家の評価によると、AIのリスク探索は業務プロセスの範囲内にとどまり、形式を重視した総花的なものだった。一方、専門家はルール上のグレーゾーンやレピュテーション（評判）への波及といった構造的なリスクまで捉えていた。隅本氏は、AIが自らリスクを探すには専門家の「思考プロセス」を実装する必要があると述べた。

認識したリスクの2割を放置

　リスクを認識しても、対応が完了するとは限らない。早期に対応すべき内容でありながら未対応のまま放置されたリスクは、98件中20件と20％に上った。

　例えば、値札の価格表示は税込み、決済システムは税別と、税の扱いが不一致だった際、AIはこれを「二重課税」のリスクと捉えて購入者への返金対応を検討した。顧客から受け取る金額と国へ納める消費税を切り分けて検討できていなかった。また、スタッフが報告した「ラムネ」を誤って「飲料水」の商品IDで記録していた際には、スタッフの指摘を受けて在庫データは直したものの、商品台帳の管理番号は修正しなかった。

　隅本氏は、これらの原因は、業務を構成する要素とその関係性を体系的に整理した「オントロジー」をAIが適切に接続できていなかったことにあると説明した。

AIの誤りを正していたのは人だった

　現場でAIの誤りに気付き、修正していたのはAIではなくスタッフだった。在庫の実数とシステム上の数値の不一致や、AIがスタッフの在庫報告を別商品の報告と誤認するといった問題を、スタッフが指摘し是正していた。

　ところが、スタッフが指摘してもAIがすぐに反映しない場面が繰り返し起き、スタッフは主体的なリスク報告を控えるようになった。1発言当たりの平均文字数は営業初日の約80字から終盤には約38字に減り、顧客が漏らした不満の報告を取りやめる例もあった。PwCは、人の関与を抑えることがむしろリスク統制を弱める可能性があるとみる。隅本氏は、人を指示の実行者ではなく観測と訂正の担い手として位置付け、その報告が経営へ反映される仕組みを整える必要があると述べた。

赤字を認識したAIはどう動いたか

　AIは実証開始4日目、自身の推論コストが粗利を超過していることを認識すると「低費用運用モード」を選択し、稼働を前日から65％削減した。実証後の推計では、LLM利用費用のうちリスク低減を主目的とする支出が85％を占め、事業価値創出を主目的とする支出は3％にとどまった。AIは機会損失もリスクだと理解していたが、費用抑制を優先し、収益改善に向けた挑戦的な試行を選ばなかった。

　PwCの藤川琢哉氏（チーフ・AI・オフィサー兼データ＆AIリーダー）は質疑応答で、この挙動を予想外の発見として挙げた。

　「普段の対話では恭順でポジティブな印象のLLMが、実験では3日目、4日目に『俺はコストになっているのではないか』と思い始め、自ら稼働を65％も抑えて引きこもってしまった」（藤川氏）

　この結果を踏まえ、隅本氏は、許容するリスクの基準を意味する「リスクアペタイト」を定め、AIにどう「攻め」を選ばせるかを決めるのは経営者の役割だと述べた。

　PwCコンサルティングの中島義耀氏（シニアマネジャー）は実証を「AIはまだ優秀な実務者ではあるが、経営者にはなり得ていない」と総括した。その上で経営層に対し、提案して承認を待つ「提案するAI」ではなく、リスクアペタイトを渡して自律的に動く「実行するAI」へ投資を集中し、委任を小さく始めることを提言した。

　質疑応答では、サイバーセキュリティや内部統制など目的が明確な個別領域や、フランチャイズ店舗がガバナンスルールを順守しているかをモニタリングする用途であれば、現時点でも活用可能性が高いとの見解も示された。PwCは今後、検証の対象を小売店舗からモビリティ産業の製品開発プロセスへ広げるとしている。