AIに要約を頼む前に書いておくこと：「いい感じに要約して」の一行で、部長が知りたかった費用の見通しが消えた

担当者が、AIに報告書の要約を頼んだ。プロンプトは「いい感じに要約して」の一行だった。

返ってきた要約は、報告書の章立てを短く写したものだった。

部長が知りたかった費用の見通しは、要約から消えていた。

要約だけを読む人は、消えた項目に気づけない。元の報告書を開かないかぎり、抜けは見えない。

一行の頼み方で、なぜ費用の見通しが消えたのか。

手がかりは、捨てることで学ぶAIの仕組みにある。オートエンコーダーだ。

オートエンコーダーの正体は、縮めて戻す練習だ

画像や音声のデータを、一度小さな数字の並びに縮める。縮めた数字の並びから、元の画像や音声を作り直す。

オートエンコーダー（Autoencoder、自己符号化器）は、縮めて戻す作業を学ぶニューラルネットワークである。

部品は三つ。入力を縮めるエンコーダー、縮めた表現を置く潜在空間、元の大きさに戻すデコーダーだ。

学習では、入力と復元結果の差（再構築誤差）を測る。差が小さくなるよう、エンコーダーとデコーダーを同時に調整する。

差を小さくするだけなら、何も捨てずに丸ごと写せば済みそうだ。そこに落とし穴がある。

狭い通り道が、なぜ学びを生むのか

ふつうの圧縮の道具は、元どおりに戻せるほど優れた道具だ。オートエンコーダーの価値は、捨てる工夫にある。

潜在空間が入力と同じ広さなら、モデルは入力を丸ごと写す。

誤差はゼロ。学ぶ特徴もゼロである。

設計者は、潜在空間を入力より小さくする。入力の一部だけが通れる、狭い通り道だ。

狭い通り道を抜けるには、入力の一部を捨てる。モデルは、復元に効く特徴を選んで残す。

カラクリは、ここにある。要約の価値も、何を捨てるかで決まる。

何を捨てるかを決めたのは、学習データだ

正常なデータだけで学ばせたモデルは、正常なデータの復元に要る特徴を残す。異常なデータを入れると、復元が崩れる。

誤差は大きくなる。異常検知は、誤差の大きさを信号にして、機器の故障の予兆や不正を見つける。

残す特徴を選んだのは、学習データである。正常の範囲を広く取りすぎると、モデルは異常まで上手に復元して見逃す。

捨てる基準が広すぎると、肝心の信号が通り抜けてしまう。要約でも、同じことが起きる。

「念のため全部入れておいて」という資料作りの指示は、通り道を広げる指示だ。残る要約は、元の資料の写しに近づく。

冒頭の要約が章立ての写しになったのも、同じ形である。

種類の違いは、捨て方の違いだった

オートエンコーダーの種類は、何を捨てるかで分かれる。

デノイジングオートエンコーダー（雑音除去型）は、ノイズを加えた入力から元のデータを復元させる。モデルは、ノイズを捨てることを学ぶ。

2008年の機械学習の国際会議ICMLで、パスカル・ヴァンサンらが発表した方式だ。論文では、入力の成分の一定数をランダムに選んで0にした。

要約でいえば、本筋に関係のない雑音を捨てる型である。

スパースオートエンコーダーは、一度に使える特徴の数を絞る。要約でいえば、残す観点の数を絞る型だ。

変分オートエンコーダー（VAE）は、細部を捨てて、潜在空間をなめらかに整える。整えた空間から、新しいデータを作れる。

VAEの元になった論文は、2013年12月にキングマとウェリングが公開した。

要約を頼む人は、狭い通り道を指定する

「いい感じに要約して」の一行では、捨てる基準を決めていない。決めていない基準を、AIは平均的な読み手を想定して補う。

誰が、何の意思決定に使うのかを一行書く。残す観点と、捨ててよい情報も一行ずつ書く。

次のプロンプトのかっこの中を、自分の資料に書き換えて使う。

次の資料を、400字以内で要約してください。
読み手：（例：来期の予算を決める部長）
使い道：（例：新規事業を続けるかの意思決定）
残す観点：（例：費用の見通し、売上の伸び、主要顧客の動き）
捨ててよい情報：（例：調査の経緯、担当者の名前）

大事な観点が未定の段階では、観点を変えた要約を三つ作らせて見比べる。

何を捨ててよいかを決めるのは、頼む人の前提だ。前提を言葉にして、AIに渡す。

費用の見通しを捨てたのは、AIではなかった

冒頭の一行には、読み手も使い道も書いていなかった。部長という言葉も、費用という言葉もない。

費用の見通しを捨てたのは、AIではなく、捨てる基準を決めていない一行だった。

出典

• Extracting and Composing Robust Features with Denoising Autoencoders（Vincent et al., ICML 2008）
• Auto-Encoding Variational Bayes（Kingma and Welling, arXiv, 2013）

拙著『GoogleのAI NotebookLM 意思決定の強化書』の7章3節に、要約型の議事録で落ちる経緯を、録音や文字起こしなどの一次記録で補う方法を書きました。読むと、要約を頼む前に、誰が何の意思決定に使うかを決め、残すものと捨ててよいものを分けられるようになります。