企画会議の前に、担当者がAIに新サービスの案を三つ頼んだ。三つの案は、よく似ていた。
担当者は、APIの設定でTemperatureの値を上げた。
返ってきた三つの案は、同じ主張を違う言い回しで並べたものだった。
三つの案が同じ主張の言い換えなら、会議で選べる筋は一つしかない。では、筋の違う案は、どこから引き出すのか。
値を上げても、案の筋は一本のままだった
Temperatureを上げても、AIに渡すプロンプトは同じだ。候補に付く点数の順位も、元の順位のまま残る。
案の主張を決めるのは、プロンプトである。
動くのは、選ばれる言葉の並び。同じ主張が、違う言い回しで三回出る。
担当者が回したつまみは、筋には届いていなかった。では、つまみは何を動かしていたのか。
Temperatureの正体は、次の言葉の選ばれやすさを調えるつまみだ
次の言葉の候補が三つあり、確率が「猫」0.6、「犬」0.3、「魚」0.1だとする。Temperatureは、三つの確率の差を広げたり縮めたりする。
大規模言語モデル(LLM)は、次のトークン(単語や単語の断片)の候補すべてに、ロジットという生の点数を付ける。
点数は、ソフトマックス関数という計算で確率に変わる。Temperatureは、ロジットを値Tで割ってから確率に変える。
Tが1より小さいと、分布が鋭くなる。確率の高い言葉が、さらに選ばれやすくなる。
Tが1より大きいと、分布が平らになる。確率の低い言葉にも出番が回る。
どちらの場合も、猫が一位、犬が二位という並びは変わらない。動くのは、言葉の選ばれやすさの偏りだけだ。
似た設定に、トップp(核サンプリング)がある。確率の高い順に候補を足し、合計がpに達したところで残りを外す設定だ。
チップ・ホイエンは、2024年1月のブログ記事で例を示した。pが0.9なら、累積確率が90%を超える最小の候補の組から選ぶ。
Temperatureは、分布の形を変える。トップpは、分布の形を保ったまま候補の範囲を絞る。
OpenAIは、APIでは二つのうち一方だけを変えるよう勧めている。もう一方は既定値のままにする。
目安として、事実に基づく要約なら0.2から0.5、ブレインストーミングなら0.8から1.2がよく挙がる。
最適な値は、モデルとプロンプトで変わる。値は、試して比べて決める。
筋の違う案は、前提を一つ替えると出てくる
前提を替えると、AIに渡すプロンプトの中身が変わる。案は、言い回しより先に筋から変わる。
手順は三つ。一つ目に、同じ問いを用意する。
二つ目に、前提を一つだけ替えた条件を三つ書く。予算が半分だったら、顧客が高齢者だけだったら、競合がゼロだったら、という形だ。
三つ目に、条件ごとに案を出させる。出た案を、並べて比べる。
Temperatureを動かせるのは、APIの設定である。前提を替える指示なら、ChatGPTの通常の画面でも、プロンプトにいくつでも書ける。
次のプロンプトのかっこの中を、自分の課題に書き換えて使う。
(例:新しい会員サービスの案)を三つ出してください。
前提を一つずつ替えて、案を一つずつ出します。
前提A:(例:予算が今の半分)
前提B:(例:顧客が高齢者だけ)
前提C:(例:競合がゼロ)
案ごとに、前提が効いた点を一行で添えてください。
違う案が出ることと、良い案が出ることは、別の話だ。どの案が良いかは、頼む側の評価基準で決める。
三つの案を似せていたのは、設定の値ではない
冒頭の担当者は、三回とも同じ前提で頼んでいた。つまみをいくら回しても、同じ前提からは同じ筋しか出ない。
三つの案を似せていたのは、設定の値より、三回とも同じだった前提だ。
拙著『ChatGPT はじめてのプロンプトエンジニアリング』の2章1節に、プロンプトに込めた狙い、立場、欲するものが、平均的でない答えを引き出す話を書きました。読むと、設定値に頼る前に、渡す前提と狙いを替えて答えの筋そのものを動かせます。
AIの答えが物足りないとき、疑うべきはAIか、自分の言葉か。
『ChatGPT はじめてのプロンプトエンジニアリング』
AIは言葉でしか動かない。プロンプトを暗記するのをやめ、構成要素に分解して、自分の言葉で意図を込める力を鍛える本です。
読み終えたとき、手元に残るもの
- 必須、任意、形式の三つに分けたプロンプトの構造
- 回答の質を変える、意図を込めた生きたプロンプト
- 発注と検収は人が担う、AIとの役割分担
- 章末の演習プロンプト26題
4刷重版。全国の大学図書館65館が所蔵しています(2026年10月時点)。
出典
- Cheat Sheet: Mastering Temperature and Top_p in ChatGPT API | OpenAI Developer Community
- LLM Parameters Explained: A Practical Guide with Examples for OpenAI API in Python
- Generation configurations: temperature, top-k, top-p, and test time compute | Chip Huyen
- Decoding Strategies: How LLMs Choose The Next Word | AssemblyAI
- Turning Up the Heat: Min-p Sampling for Creative and Coherent LLM Outputs | arXiv

