AIが前の話を覚えていないことを誰も教えてくれなかった:先週30分かけて業界の事情を説明したAIが、月曜に返したのは一般論だった

月曜の朝。担当者が、AIに企画書の下書きを頼んだ。

相手は、先週のチャットで業界の事情を30分かけて説明したAIだ。

返ってきた下書きは、どの業界にも当てはまる一般論だった。

担当者は、AIの物覚えを疑った。先週の30分の説明は、どこへ消えたのか。

AIの「学習」は、会話の前に終わっている

日常で学習と言えば、話を聞いて覚えることだ。担当者も、先週の30分でAIが覚えたと考えていた。

AIの学習は、意味が違う。訓練データをもとに、モデルの中の数値(重み、パラメータ)を書き換える工程を指す。

書き換えによって、仕事をこなす力が上がる。この学習は、会話より前に終わっている。

チャットの画面にいるAIが会話の途中で行うのは、推論だけである。

推論とは、重みを固定したまま、新しい入力に答えを返すことだ。

考える過程を書き出してから答える推論モデルもある。こちらの推論は英語の reasoning で、本記事の推論(inference)とは別の語だ。

推論モデルも、使っている最中は重みを固定している。

学習はパラメータを更新してモデルを形作り、推論はパラメータを固定したまま新しいデータに予測を返します

AIが「覚えている」ように見えるカラクリ

対話型のAIに質問している間、モデルの重みは動かない。AIが使うのは、学習済みの知識と、会話の場で受け取った情報の二つだ。

それでも、前の会話を覚えているように見える機能がある。ChatGPTのメモリー機能が代表例だ。

OpenAIは2024年2月にメモリー機能を発表した。2025年4月には、過去の会話すべてを参照する形に広げた。

機能の中身は、会話の履歴や保存したメモを、答えるたびに入力として読み直す仕組みである。

つまりAIは、答えるたびにメモを受け取っている。利用者は、設定でメモリー機能を切ることもできる。

学習の側は、どうか。提供元が、会話のデータを将来のモデルの学習に使う場合がある。

OpenAIのヘルプセンターによると、無料版やPlusなど個人向けプランの会話は、初期設定で学習に使う可能性がある。

設定の「データ制御」で、学習への利用を止められる。法人向けのプランやAPIの入力は、初期設定では学習に使わない。

いずれにせよ、学習は別の時点で行う。学習の結果は、次のモデルに入る。

学習と推論を混ぜて考えると、同じ説明を会話に何度も流し込むはめになる。

毎朝記憶が消える同僚に、前日の会議の中身を毎朝伝え直す働き方と同じだ。

新しいチャットを開くたびに30分かけて説明し直せば、その時間はたまり続ける。説明を省けば、返ってくるのは一般論だ。

30分の説明は、なぜ月曜に届かなかったのか

月曜の担当者が新しいチャットに渡した前提は、ゼロだった。先週の30分の説明は、先週のチャットの中に残っていた。

推論だけをする相手には、渡すものを良くする。育てる相手は、AIではなく、毎回渡す前提の文書だ。

業界の事情、仕事の目的、守る制約、ほしい出力の形を、一枚の文書に書く。

文書は、プロジェクト機能やカスタム指示に置く。置いた文書は、毎回の会話でAIに渡る。

チャットのAIは、学習済みの知識と、履歴やメモや指示の文書のように会話の場で渡された情報を使います。育てる相手は、毎回渡す文書です

AIのモデルが替わっても、同じ文書を持ち越せる。

次のプロンプトのかっこの中を、自分の仕事に書き換えて使える。

次の前提の文書を読んでから、依頼に答えてください。
業界の事情:(例:食品の卸売で、取引先の多くが地方のスーパーです)
仕事の目的:(例:来期の新商品の企画書を、役員会に出します)
守る制約:(例:予算は500万円まで。発売は来年の春です)
ほしい出力の形:(例:A4一枚、見出しは三つ)
依頼:(例:企画書の下書きを書いてください)

AIの答えの質は、毎回渡す前提の文書の一行目で差がつく

文書の一行目に何を書くかは、自分で決める。

何を書くかを決める作業は、自分の仕事の前提を言葉にする作業だ。

AIに問う力とは、自分の前提を言葉にして渡す力である。

月曜のAIに足りなかったものは、物覚えではない

チャットのAIは、会話の途中で新しく覚えない。覚えているように見えるのは、履歴やメモを毎回読み直すからだ。

月曜のAIに足りなかったのは、物覚えではない。先週の30分を書き留めた、一枚の文書だった。

出典

拙著『ChatGPT はじめてのプロンプトエンジニアリング』の4章1節「発散と収束で単純化」に、この記事の考え方を書きました。読むと、AIが何を覚えていて何を覚えていないかを踏まえ、自分が渡すべき前提を組み立てられるようになります。

AIの答えが物足りないとき、疑うべきはAIか、自分の言葉か。

ChatGPT はじめてのプロンプトエンジニアリング 表紙

『ChatGPT はじめてのプロンプトエンジニアリング』

AIは言葉でしか動かない。プロンプトを暗記するのをやめ、構成要素に分解して、自分の言葉で意図を込める力を鍛える本です。

読み終えたとき、手元に残るもの

  • 必須、任意、形式の三つに分けたプロンプトの構造
  • 回答の質を変える、意図を込めた生きたプロンプト
  • 発注と検収は人が担う、AIとの役割分担
  • 章末の演習プロンプト26題

4刷重版。全国の大学図書館65館が所蔵しています(2026年10月時点)。

Amazonで見る

著者プロフィール・お問い合わせ