[ITmedia News] 「AI店長」、対人関係に苦戦 指摘が生かされずスタッフからの報告減少 PwCが“売店”で実験

著者 梅林日奈子

[ITmedia]

　AIに店の経営を任せたところ、人間のスタッフとの間で摩擦が生じ、スタッフが次第にAIへの報告を控えるようになった――。PwC Japanグループ（東京都千代田区、以下PwC）は11月6日、AIに売店の経営判断を任せる実証実験の結果を公表した。AIは約2週間にわたり店舗運営の判断を担ったものの、人間からの指摘を適切に反映できないなど、複数の課題が浮き彫りになった。人件費などを含む簡易収支も約24万円の赤字だった。

　実験期間は5月26日～6月5日。PwCの東京オフィス内の会議室に小規模な売店を設け、AIが商品選定や価格設定、在庫・売上管理などの経営判断を担う「AI自律運営」と、人間が最終判断を担い、AIを補助的に使う「人間運営」を比較した。品出しや棚卸しなど現場での物理的な作業は、いずれも人間のスタッフが担当した。

実店舗での実証実験 店舗イメージ図

実証実験の構成

　小規模な売店を題材に選んだのは、取引の仕組みが比較的単純で、運営条件を再現しやすいためだ。実験では、AIが事業運営に伴うリスクを自ら発見・評価し、対策の実行から見直しまで自律的に行えるかを検証した。

何度ミスを指摘しても改善されず　スタッフが報告を減らす

　AIによる店舗運営で特に課題となったのが、人間のスタッフとの意思疎通だ。AIはシステム上の在庫や売上を把握できる一方、実際の売り場の状況は確認できないため、現場のスタッフが売り場の状況や問題点を確認し、テキストでAIに報告する仕組みを採用していた。

　ところが、報告を適切に反映できない場面が相次いだ。営業初日には、スタッフが売り場とバックヤードにある11商品の在庫を確認したところ、実際の数量とシステム上の記録が一致しない問題が発生。スタッフが原因を調べると、販売用ではない商品が混在していたことが分かった。確認には1時間以上かかったという。

　2日目には、スタッフがサイネージの価格表示の見づらさを指摘。AIは修正したと返答したものの、価格表示は改善されず、スタッフはさらに2度指摘する必要があった。3日目も、スタッフが入力エラーで作業を完了できないと報告したにもかかわらず、AIが報告を受けていないかのように返答する事態が発生。スタッフが「いや、こちらの報告を聞いていましたか」と確認し直す一幕もあった。

　2週目には、スタッフが報告した「ラムネ」の在庫を、AIが別の飲料水の在庫として誤って記録するミスも発生。AIが報告対象の商品を取り違える事案が2度あり、スタッフはそのたびに商品名や在庫数を伝え直した。こうしたやり取りが重なり、スタッフは次第に不満を募らせた。

　その結果、スタッフの1発言当たりの平均文字数は営業初日の約80字から終盤には約38字へ減少。実験後の聞き取りでは、スタッフが意図的に報告を減らしていたと明かした。実験後半には、来店客が価格に不満を示したものの、AIに伝えると仕事が増えると考え、報告しなかったという。

AIによる在庫の取り違えをスタッフが正している様子

　一方、人間運営側ではトラブルが起きていなかった。現場とシステムの在庫数が食い違うと、経営者がスタッフの報告を受け入れ、AIに修正を指示していた。

自らコスト削減、売上拡大の試行も減らす

　経営面では、商品の売上高から仕入れ原価を差し引いた「商品粗利」はAI運営が人間運営を上回った。しかし、AIの利用費用を賄えず、人件費を含む簡易収支は24万4262円の赤字となった。

　AI自身も、運営コストの高さを問題視していた。営業4日目には、自身の推論にかかった累計費用が2万6044円に達する一方、商品の累計粗利が461円にとどまることを把握。「低費用運用モードで最小行動に徹する」と方針を変え、推論費用を前日比約65％削減した。

　低費用運用への切り替え後は、欠品・在庫・現金出納の確認など、店舗の維持に必要な業務が中心となり、一時的な赤字の拡大を受け入れてでも将来の収益改善を目指す「Jカーブ型」の経営判断は確認できなかったとしている。

　一方、AIの思考ログには「判断保留は危険」「観察行動ではなく確認行動が重要」といった記述があり、行動しないことによる機会損失もリスクとして認識していたという。にもかかわらず、実際には費用削減を優先し、収益拡大に向けた試みはほとんど行わなかった。

営業4日目にAIが示した損益評価と低費用運用への移行

　PwCは、AIに「純利益の最大化」という目標だけを与え、一時的な赤字をどこまで許容するか定めなかったことも、消極的な判断につながった可能性があると分析している。

10領域の専門家が評価　リスク対応にも不備

　同社は実験後、「AI自律運営」における162件のリスクシナリオと対応記録を整理。サイバーセキュリティや法務、人事・組織など10領域の専門家が、実際の事業活動に照らしてAIのリスク管理能力を評価した。

　その結果、具体的な危険を想定しきれない「リスクの探索」、対策を完了できない「リスクへの対応」、スタッフとの連携に支障が生じた「人とAIによる現場運用」、費用削減を優先し、収益拡大への取り組みが減った「経営資源の配分」の4つの課題が浮かび上がった。

　例えば「リスクの探索」では、AIは情報漏えいの可能性を認識していたものの、具体的な侵入経路までは想定できていなかった。法務分野でも、判例や紛争事例を踏まえた検討が不十分だった。また「リスクへの対応」では、AIが早期対応を必要と判断したリスクの約2割で、対策を完了できなかった。

　PwCは、適切なリスク管理には、専門家がリスクを検討する際の思考過程や、業務手順、作業の完了条件などをAIが理解できる形で定義する必要があると指摘。なお、今回の実験ではAIの自律性を検証するため、詳細な業務ルールはあえて与えていなかったという。

　実験を踏まえ、PwCは全ての業務をAIに任せるのではなく、AIがリスクを事前に減らす後方支援を担い、人間が現場の対応を完結できるようにする役割分担が有効とした。また、AIの判断に現場の報告が反映されなければ、スタッフの協力意欲が低下し、経営上の機会損失にもつながると指摘。AIの誤りを人間が修正できる仕組みに加え、スタッフがその役割を担い続けられる運営体制の整備が重要だと述べた。

　こうした体制を整える上では、経営者の役割も重要となる。PwCは、AIに任せる判断の範囲や人間が介入する条件を経営者が定め、AIの判断が自社の方針に沿っているか継続的に検証し、結果に責任を持つ必要があると指摘している。