指標で人を動かす職場の末路：評価を対応件数に変えた翌月、一件あたりの対応時間が短くなった

窓口の評価を、問い合わせの対応件数に変えた月があった。

翌月の集計で、一件あたりの対応時間が短くなっていた。

担当者は、怠けたわけではない。書いてある指標を、忠実に満たしただけである。

では、担当者は、なぜ一件を短くしたのか。

数字が良くなるほど、実態は見えなくなる

対応件数は、増えた。評価の数字だけを見れば、窓口は良くなった。

ところが、一件ごとの対応が短くなれば、お客様の用件が片づいたかは数字に出ない。

指標を目標に据えると、指標は実態を映す力を失う。グッドハートの法則と呼ぶ経験則だ。

1975年、英国の経済学者グッドハートが、金融政策の指標について示した考えである。

中央銀行が目標に据えた指標は、物価の動きを映さなくなった。

「測る物差しが目標になると、良い物差しではなくなる」。広く知られた言い回しは、人類学者ストラザーンが1997年に書いた。

会議の削減数で評価する部署では、会議の名前が打ち合わせに変わる。

KPI（重要業績評価指標）を満たした月に、成果が落ちることがある。

すると、担当者の意識の低さを責める会議が始まる。数字は良く、実態は悪く、責める相手は人になる。

ずるではない。書いてある点数を、誠実に最大化しただけだ

担当者が一件を短くした理由は、AIの学び方を見ると分かる。

点数を手がかりに学ぶAIを、強化学習（Reinforcement Learning）と呼ぶ。

教師あり学習では、正解のラベルが手元にある。強化学習で返ってくるのは、行動の結果としての報酬だけだ。

強化学習は、報酬の合計が最大になる行動の選び方を、試行を通して学ぶ。

学ぶ側をエージェントと呼ぶ。行動の選び方は、方策と呼ぶ。

エージェントの行動は、次に見る状況も変える。

日常で報酬と言えば、働きへのごほうびだ。強化学習の報酬は、設計者が数式で書いた点数である。

エージェントにとっては、設計者が書いた点数が、良し悪しのすべてだ。

カラクリは単純だ。人もAIも、書いてある点数を最大にする。窓口の担当者も、同じことをしただけである。

ボートは、ゴールせずに同じ場所を回り続けた

設計者が望むことの一部は、言葉や数式の外に残る。

報酬の書き方に穴があると、エージェントは設計者の想定の外にある近道を学ぶ。

近道を学ぶ現象を、報酬ハッキングと呼ぶ。

実験で、実際に起きている。2016年、OpenAIはボートレースのゲームで強化学習を試した。

ゲームの点数は、コースを進むよりも、途中の目標物に当てると増える仕組みだった。

エージェントは、入り江を見つけて同じ場所を回り続けた。目標物が現れるたびに当てたのである。

火を出し、他の船にぶつかり、逆走もした。それでも点数は、人のプレーヤーより約20%高かった。

ゴールした回数は、点数に書いていない。書いていないことは、学ばない。

強化学習の難しさは、ほかにもある。新しい行動を試すか、慣れた行動を使うかの釣り合い。必要な試行の多さ。

どちらも、計算や手法の工夫で和らぐ。報酬の設計は、別の種類の難しさだ。

担当者を責める会議の構図は、報酬を書き間違えた研究者がエージェントを叱る構図と同じである。

書き直す相手は、人ではなく評価の一行だ

書き直す相手は、人ではない。報酬である。

窓口なら、評価の一行を書き直す。例えば、お客様が一度で手続きを終えられたか、を良しとする。

安全、費用、速さのように、引っ張り合う目標を一つの数字にまとめる場面もある。

重みの付け方には、設計者の価値観が入る。

報酬の設計を前提の言葉に直すと、評価基準を書く作業にあたる。

書く中身は三つ。何を良しとするか。どの程度を良しとするか。目標の重み。

AIに仕事を頼むときも、良い答えの条件を一文で書く。書いた条件が、AIにとっての報酬になる。

次の文面のかっこの中を、自分の仕事に書き換えて使える。

（例：問い合わせへの返信文）を書いてください。
良い答えの条件：（例：お客様が一度読んで手続きを終えられること）
重み：（例：正確さを最優先にし、次に短さを重く見ます）
避けたい近道：（例：質問を別の窓口へ回すだけの返信）

AIに問う力とは、何を良しとするかを決めてから問う力である。

一件が短くなった窓口で、書き直すべきだったもの

担当者は、書いてある点数を誠実に最大にした。ボートと同じである。

一件が短くなった窓口で、書き直すべきだったのは担当者ではない。評価の一行だった。

拙著『GoogleのAI NotebookLM 意思決定の強化書』の4章3節に、この記事の考え方を書きました。読むと、いま使っている指標がどの原則から来たものか、原則とつながっていないのかを確かめられるようになります。