本郷喜千

更新

経理の集計をAIに丸ごと任せた末路：帳簿と数字がずれ、どこで間違えたかは謎のまま残った

経理の担当者が、請求書の集計をAIエージェントに任せた。AIは手順を自分で組み立て、作業を終えた。

月末、集計の数字が帳簿の数字とずれていた。

担当者は、AIの作業の記録を一行ずつさかのぼった。

間違えた段階は、謎のまま残った。

自律型こそ本命で、ワークフロー型は過渡期の技術だ。そんな言い方を見かける。

AIは賢く仕事を終えたはずだった。

では、AIはどこで間違えたのか。なぜ、それすら分からなかったのか。

担当者が渡したのは、目標だけだった

冒頭の経理の担当者がAIに渡したのは、請求書を集計するという目標だけだった。

目標に向けて仕事を小さく分け、道具を使って作業を進めるAIシステムを、AIエージェントと呼ぶ。

AIエージェントは、手順を誰が決めるかで二つの型に分かれる。

自律型では、人は何を達成したいかだけを決める。手順は、AIが決める。

自律型のAIは、目標を分け、情報を集め、計画を立てて実行する。結果が目標から外れたら、計画を直して別の手を試す。

ワークフロー型のAIは、人が先に決めた手順に沿って動く。AIは、PDFの読み取り、分類、文章の作成など、工程ごとの処理を受け持つ。

Anthropic社は2024年12月、記事「Building effective agents」で二つの型を定義した。

ワークフロー型は、LLMとツールが、あらかじめ定めた経路（コードパス）に沿って連携するシステムである。

エージェントは、LLMが自分の進め方とツールの使い方を動的に決めるシステムだ。

自律型とワークフロー型を、決め方、柔軟性、人が見る場所、人間の役割、向く業務で比べた表

目標だけを渡す任せ方の代償は、数字にも表れ始めた。米調査会社ガートナーは2025年6月、エージェント型AIの事業の40%超が2027年末までに中止になると予測した。

理由に挙げたのは、膨らむ費用、不明確な事業価値、不十分なリスク管理である。

間違えた段階が謎のまま残ったのは、なぜか

ワークフロー型で請求書を集計すると、読み取り、分類、集計の各工程で出力を取り出して見られる。

読み取りで間違えたのか、分類で間違えたのかを、後から特定できる。

自律型では、AIがたどる道筋が毎回変わる。人が見られるのは、主に最後の結果だ。

謎の正体は、ここにある。二つの型の違いは賢さではなく、誤りを確かめる場所の違いだった。

結果のずれに気づいても、AIが道を外れた地点を探す作業は長引く。

Anthropic社も同じ記事で、自律の代償を挙げている。費用が増え、誤りが積み重なる恐れがある。

型の選択で問われるのは、誤りの確かめ方である

型の選択は、技術の選定というより、誤りの確かめ方の選択だ。

Anthropic社の整理では、ワークフロー型は予測可能性と一貫性が要る、定義の明確な仕事に向く。エージェントは、柔軟さとモデル主導の意思決定が要る場面に向く。

いちばん高くつくのは、原因を説明できない誤りである。

財務諸表の作成では、逸脱の許容はほぼゼロだ。誤りが出れば、原因の説明も要る。

そこへ自律型を当てると、冒頭の担当者と同じ場所に立つ。ずれは見えても、どこで生じたかを説明できない。

財務諸表のような業務には、工程ごとに誤りを拾えるワークフロー型が合う。

新商品のアイデア出しでは、外れた案は捨てて次を試せる。アイデア出しのような業務では、自律型の柔軟さが生きる。

任せる前の三つの問いで、型が決まる

手順は、今日から使える。AIに仕事を頼む前に、三つを決める。

  1. 手順を固定するか、目標だけを渡すか
  2. どの情報を渡すか
  3. どこから先を人が決めるか

二つの型を組み合わせる場合も、三つ目の問いで分担が決まる。顧客サポートなら、受付と履歴の確認はワークフロー型が受け持つ。

前例ゼロの問い合わせだけを、自律型に回して調べさせる。

分担を成り立たせるのは、ワークフローの側に書く二つの条件だ。

  1. 前例ゼロと見なす条件
  2. 自律型が調べた結果を受け取る基準

三つの答えは、頼む人の前提である。前提を言葉にしてAIに渡す力が、AIエージェントを使う側の問う力だ。

次の文面のかっこの中を、自分の業務に書き換えて使える。

（例：請求書の集計）を、工程に分けて進めてください。
工程：（例：1 PDFの読み取り、2 勘定科目への分類、3 月次の集計）
確かめる場所：工程ごとに出力を表で示し、私の確認を待ってから次の工程へ進んでください。
任せる範囲：（例：分類に迷う請求書は、候補を二つ挙げて私に回してください）

帳簿とのずれは、どこで生じたのか

原因の説明まで要る経理の集計なら、工程の切れ目で確かめるワークフロー型を選ぶ。

工程の切れ目が三つあれば、帳簿とのずれは、どの段階で生じたかを語っていたはずだ。

拙著『ChatGPT 誰でも1時間でできる！ はじめてのGPTsのつくり方』の5章3節に、この記事の考え方を書きました。読むと、一つの賢いAIに任せるか、確かめやすい部品を並べてつなぐかを、自分の業務に当てはめて考えられるようになります。

自分の仕事に効くAIは、誰が作るべきか。

ChatGPT 誰でも1時間でできる！ はじめてのGPTsのつくり方 表紙

『ChatGPT 誰でも1時間でできる！ はじめてのGPTsのつくり方』

要件を日本語で書き出せば、それがそのままAIを動かす。現場の知識を持つ人が自分で作り、育てる、内製化のための本です。

読み終えたとき、手元に残るもの

  • 目的、役割、入力、出力をそろえる要件定義の型
  • 評価基準と判断基準を持たせる考えるGPTの作り方
  • テスト用のダミーデータで直していく手順
  • 複数のGPTを分業と協業でつなぐ設計

画面や機能の記述は2024年時点のものです。仕事を分解し、基準を言葉にする考え方は今も変わりません。

Amazonで見る

出典

著者プロフィール・お問い合わせ