AI導入の稟議で、最初に書いておくこと：理由の欄は「最新の大型モデルを入れる」の一行、費用の見込みは空欄だった

AI導入の稟議書が、部長の机に回ってきた。

理由の欄には、一行だけ。最新の大型モデルを入れる。

月の利用回数と、一回あたりの費用の見込みは、空欄だった。

部長は、空欄のまま判を押してよいのか。

空欄の利用回数と費用は、使うたびに届く請求書の数字だ

空欄の二つは、AIを使うたびにかかる費用（推論の費用）を決める数字である。

利用者が質問するたびに、推論の計算がかかる。

導入の費用は、稟議の時点で見える。推論の費用は、使い始めてから請求書で届く。

月の利用回数に、一回あたりの費用を掛ける。空欄のままでは、その掛け算を誰もしていない。

しかも、大型モデルを良しとした根拠そのものが、すでに書き換わっている。

大型モデルを良しとした根拠は、スケール則にあった

大型モデルが良いという考えは、スケール則から広がった。

スケール則は、言語モデルの性能が、規模と学習データの量と計算量にどう依存するかを示す経験則である。

規模は、パラメータ数で測る。性能は、多くの場合、予測の外れ具合（損失）で測る。

2020年、OpenAIの研究者ら（Kaplanら）が論文を発表した。

損失は、三つの量の増加に対して、べき乗則という滑らかな曲線に沿って下がる。

日常で法則と言えば、条件を問わず成り立つ決まりを指す。スケール則が示すのは、曲線の形だ。

三つの軸は、支え合って効く。パラメータの力を引き出すには、データと計算も要る。

当時の読み方では、Kaplanらの分析から、モデルを大きくする方に多く配る配分が最適だった。

計算の予算が限られているときの配分である。

パラメータ数が、発表資料の一行目に来る時代が始まった。

その根拠は、二度書き換わっていた

2022年、DeepMindの研究者ら（Hoffmannら）が配分を測り直した。

モデルの規模と学習データの量は、ほぼ同じ割合で増やすべきだ、という報告である。

報告の方針で学習させたChinchillaは、パラメータ数が700億だった。

比べたGopherは2800億。Chinchillaは同じ計算量で、およそ4倍のデータを読んだ。

結果は、4分の1の規模のChinchillaが、Gopherを上回った。

次に重みを増したのは、推論の費用だ。稟議書で空欄だった、あの費用である。

小さいモデルに大量のデータを読ませる方針が、広がった。Llama 2は、方針の代表例である。

カラクリはこうだ。スケール則から導く最適な配分は、2020年からの数年で、二度以上書き換わった。

書き換えの理由は、測り直しと、何を最小にするかという前提の変化である。

どこに資源を配るかの答えは、何を固定し、何を最小にするかを決めた後に出る。

冒頭の稟議は、パラメータ数の時代の配分を、推論の請求書が届く時代に持ち込んでいる。

稟議の理由の欄を、一行書き直す

稟議書に先に書くのは、何を最小にしたいかである。

理由の欄の一行は、例えば次のように書き直せる。最小にしたいのは、毎月の利用の費用。誤答の損害は、担当者の確認で抑える。

そのうえで、稟議には四つの前提を書く。

1. 何をする用途か
2. 精度を上げたいのか、費用を下げたいのか
3. 予算と応答速度の制約
4. 何がどこまで届けば十分か

一回の誤りの損害が大きい用途では、大型モデルが筋の通る選択になる。

利用回数が限られる場合は、なおさらだ。

AIに問う力とは、何を最小にしたいかを、自分の言葉で決める力である。

AIに比較を頼むときも、最小にしたいものを先に渡す。

次の文面のかっこの中を、自分の用途に書き換えて使える。

社内の（例：問い合わせ対応）に使うAIモデルを選びます。候補を比べてください。
最小にしたいもの：（例：毎月の利用の費用。誤答の損害は担当者の確認で抑えます）
前提：（例：月の利用回数は約3000回。応答は10秒以内）
出力：（例：候補ごとの月の費用の見込み、精度の評判、推す理由を3行）

理由の欄に書くのは、モデルの名前ではない

空欄の二つを埋めれば、部長は判を押す前に請求書の大きさを見られる。

稟議書の理由の欄に書く一行は、モデルの名前ではない。最小にしたいものの名前だ。

拙著『GoogleのAI NotebookLM 意思決定の強化書』の7章4節に、新しい材料で前提を見直すと採用案が入れ替わる事例を書きました。読むと、技術の見通しが書き換わったとき、自社の意思決定のどの前提が動き、どの結論を組み直すかを指させます。