[ITmedia エグゼクティブ] 何を任せ、何を任せないか ― 対象選定という最初の論点

著者 上田 雄登 小坂 佳範

[ITmedia]

　AIエージェント導入で最初に、そして最も大きくつまずくのは、技術ではなく「対象選び」である。適さない業務に無理に適用すれば、どんなに優れたモデルでも成果は出ない。第2回では、意思決定者が「任せる／任せない」を見極めるための考え方を示す。

「自動化できるか」は間違った問いである

　導入検討で最初に出てくる問いは、たいてい「この業務は自動化できるか」だ。だが、この問いは二重に不適切である。第一に、エージェントは「自動化」の道具ではない。決められた手順を確実に繰り返すことに価値があるRPAと違い、エージェントの価値は確率的に判断し、動的にツールを選び、状況に応じて行動を変えることにある。第二に、技術は日進月歩で、「できるか」と問えばたいてい「できる」時代になった。だが「できる」ことと「やるべき」ことは違う。

　正しい問いはこうだ。「確率的な判断と自律的なツール実行の組み合わせによって、従来の手段では得られない価値が生まれるか」。ルールベースの自動化でも人手だけでもうまくいかない「狭間」の業務――そこがエージェントの最適な適用領域である。

　この問いの立て方を誤ると、コストは静かに膨らむ。「できるか」を基準に対象を選ぶと、本来はルールベースの自動化や既存システムで十分だった業務にまでエージェントを充ててしまい、確率的な振る舞いを抑え込むための監視と運用の負担だけが積み上がる。逆に「価値が出るか」を基準にすれば、投資すべき少数の業務が自然に浮かび上がる。対象選定とは、やることを決める作業であると同時に、やらないことを決める作業でもある。

エージェントに向く業務の4特性

　私たちは、次の特性を複数備える業務ほど導入効果が高いと整理している。

• 入出力の中心が自然言語である（問い合わせ、報告書、マニュアルなど）
• 複数の情報源を横断的に参照する必要がある（社内規定、外部DB、過去事例を統合する与信審査など）
• 半定型で分岐がある（おおむねパターンはあるが例外が頻発する経費精算など）
• 専門知識の参照が頻繁（業界規制、社内ポリシー、技術文書の照合）

　逆に、委ねるべきでない業務も明確だ。誤りが許容されない最終判断（与信の最終承認、医療診断の確定、法的文書の署名）、アカウンタビリティが問われる対人判断（解雇通告、重大なクレーム対応）、ルールベースで十分な構造化処理、数値計算が主となる業務である。

　特に強調したいのは、対人判断を委ねない理由だ。今日のLLMは、共感的なトーンや配慮ある言い回しにおいて人間に遜色ない。だから「AIは感情を理解できないから」という理由はもはや成り立たない。問題は能力ではなくアカウンタビリティ――「誰がその判断に責任を持つのか」である。解雇を告げられる従業員は、対応の品質だけでなく「組織の誰が自分に向き合っているか」を重視する。

　具体例で考えると分かりやすい。例えば、ある金融機関の与信審査は、財務諸表・信用調査データベース・業界レポートといった複数の情報源を横断的に参照し、業界規制や社内ポリシーという専門知識の照合も求められる業務で、先の4特性の多くを満たす。一方、同じ金融機関でも、約定済みの金額を計算して振り込む処理は数値計算とルールで完結し、エージェントの確率的な判断はむしろ邪魔になる。同じ部署の中にも、向く業務と向かない業務が混在している――業務を丸ごと「向く／向かない」で判断せず、工程まで分解して見る。この解像度が、対象選定の出発点である。

「全部任せる／全く任せない」の間を設計する

　意思決定者が陥りやすいのが両極端の発想だ。実務の勘所は、同じ業務の中で任せる部分と残す部分を切り分けることにある。与信審査なら、資料の読み取りと論点整理はエージェント、最終判断は人間。この切り分けを精緻にするため、私たちは「システム連携深度」を5段階――参照・解釈・更新・実行・自律――で捉えることを勧めている。同じ業務でも、参照に留めるか、更新・実行まで踏み込むかで、必要なガバナンスの質量はまるで変わる。

　この5段階は、そのまま「後戻りのしやすさ」の階段でもある。参照・解釈は外部システムの状態を変えず、情報の取得と整理に留まるため、誤りの影響は限定的だ。更新はデータの書き込みを伴い、ロールバック手順の整備が要る。そして実行・自律は、不可逆な操作を――自律に至っては複数システムを横断して連鎖的に――行う段階で、最も厳格なガバナンスを要する。どの深度まで踏み込むかは技術的な可否ではなく、「その業務で誤りが起きたとき、どれだけ取り返しがつくか」から決めるべきである。深い連携ほど大きな価値を生むが、要求されるガバナンスの重さも比例して増す。まず浅い深度で実績を積み、安全を確認しながら一段ずつ深めていくのが定石だ。

システム連携深度の5段階（参照・解釈・更新・実行・自律）と、要求されるガバナンス強度の対応。深い連携ほど影響が大きく・不可逆になり、統制も比例して重くなる。

活用は3段階で成熟する

　組織のエージェント活用は、おおむね3段階で進化する。第一に、個人が生成AIを日常業務の効率化に使う「個人活用」の段階。第二に、特定業務に組織として設計・運用する「組織的導入」の段階。第三に、エージェントを前提に業務プロセスそのものを組み替える「業務再定義」の段階だ。全社を同じ段階に揃える必要はない。各業務領域で最も価値が出る段階を見極め、資源を配分するのが経営の役割である。

　この過程で、エージェント導入は思わぬ副産物を生む。属人化の排除だ。「この案件は◯◯さんに聞かないと分からない」という状態は組織のリスクそのものだが、エージェントに業務を委ねるには判断基準を言語化し、暗黙知を明文化せざるを得ない。この作業自体が、個人の頭の中にあった知識を組織の資産に変える。

　ここで注意したいのは、この3段階を「上に行くほど優れている」という優劣で捉えないことだ。個人の効率化に留めるのが最適な領域もあれば、業務再定義まで踏み込む価値がある領域もある。経営に問われるのは、全社を無理に足並みをそろえることではなく、領域ごとに到達すべき段階を見極め、そこに資源を集中させる判断である。段階の高さを競うのではなく、投じた資源に見合う価値が出ているかを、領域ごとに冷静に測りたい。

最初の一歩と、現在地の再評価

　導入初期は、誤っても取り返しがつき、効果を測りやすく、一定の量があり、現場に当事者がいる業務から始めると失敗が少ない。失敗が許されない基幹業務から始めると、慎重になりすぎて進まないか、事故で信頼を失うかのどちらかになりやすい。

　最後に1つ、意思決定者に伝えたいことがある。「任せられる範囲」は固定的ではない。技術の進歩は速く、参考までに挙げれば、最先端のエージェントが一定の成功率で完了できるタスクの長さは、近年およそ半年強で倍増するペースで拡大していると報告されている。半年前に「向かない」と判断した業務が、今日は十分に実用圏内に入っている可能性がある。だからこそ、判断の軸を組織で共有し、定期的に再評価することが、その都度ぶれない意思決定を可能にする。

著者プロフィール:

株式会社GenerativeX 取締役CAIO

東京大学松尾研究室出身。YCP Solidiance、松尾研究所を経て、2023年に生成AI活用支援・コンサルティングを手掛ける株式会社GenerativeXを共同創業し、取締役CAIOに就任。国内大手企業向けの生成AIを用いた業務改革・アプリケーション開発・経営戦略立案を支援している。著書に『ビジネスに魔法をかける 生成AI導入大全』（KADOKAWA）ほか。

小坂 佳範

株式会社GenerativeX 執行役員CTO

東京大学大学院工学系研究科技術経営戦略学専攻修了。LITALICO、ByteDance（TikTok）を経て、2024年より株式会社GenerativeXに参画。生成AIを活用したアプリケーション開発から運用基盤構築までを一貫して推進し、大手企業向けAIシステムの開発・導入をリードしている。共著『AIエージェント 導入・開発・運用 トータルガイド』（日経BP）

Copyright © ITmedia, Inc. All Rights Reserved.

意思決定者のためのAIエージェント設計論

AIエージェント導入の本質は技術選びではなく「不確実性の統制」にある。従来の常識が通じない自律システムを組織として飼いならし、安全に実装するための設計論の要諦を解く。

この連載の記事をもっと見る

この記事の著者

株式会社GenerativeX 取締役CAIO 東京大学松尾研究室出身。YCP Solidiance、松尾研究所を経て、2023年に生成AI活用支援・コンサルティングを手掛ける株式会社GenerativeXを共同創業し、取締役CAIOに就任。国内大手企業向けの生成AIを用いた業務改革・アプリケーション開発・経営戦略立案を支援している。

小坂 佳範

株式会社GenerativeX 執行役員CTO 東京大学大学院工学系研究科技術経営戦略学専攻修了。LITALICO、ByteDance（TikTok）を経て、2024年より株式会社GenerativeXに参画。生成AIを活用したアプリケーション開発から運用基盤構築までを一貫して推進し、大手企業向けAIシステムの開発・導入をリードしている。

関連記事

SpecialPR

ITmedia エグゼクティブのご案内

「ITmedia エグゼクティブは、上場企業および上場相当企業の課長職以上を対象とした無料の会員制サービスを中心に、経営者やリーダー層向けにさまざまな情報を発信しています。入会いただくとメールマガジンの購読、経営に役立つ旬なテーマで開催しているセミナー、勉強会にも参加いただけます。 勉強会のスケジュールはこちら