AIの案が似たり寄ったりになる、その正体:設定でばらつきを上げても、三つの案は同じ主張の言い換えだった

企画会議の前に、担当者がAIに新サービスの案を三つ頼んだ。三つの案は、よく似ていた。

担当者は、APIの設定でTemperatureの値を上げた。

返ってきた三つの案は、同じ主張を違う言い回しで並べたものだった。

三つの案が同じ主張の言い換えなら、会議で選べる筋は一つしかない。では、筋の違う案は、どこから引き出すのか。

値を上げても、案の筋は一本のままだった

Temperatureを上げても、AIに渡すプロンプトは同じだ。候補に付く点数の順位も、元の順位のまま残る。

案の主張を決めるのは、プロンプトである。

動くのは、選ばれる言葉の並び。同じ主張が、違う言い回しで三回出る。

担当者が回したつまみは、筋には届いていなかった。では、つまみは何を動かしていたのか。

Temperatureの正体は、次の言葉の選ばれやすさを調えるつまみだ

次の言葉の候補が三つあり、確率が「猫」0.6、「犬」0.3、「魚」0.1だとする。Temperatureは、三つの確率の差を広げたり縮めたりする。

大規模言語モデル(LLM)は、次のトークン(単語や単語の断片)の候補すべてに、ロジットという生の点数を付ける。

点数は、ソフトマックス関数という計算で確率に変わる。Temperatureは、ロジットを値Tで割ってから確率に変える。

Tが1より小さいと、分布が鋭くなる。確率の高い言葉が、さらに選ばれやすくなる。

Tが1より大きいと、分布が平らになる。確率の低い言葉にも出番が回る。

どちらの場合も、猫が一位、犬が二位という並びは変わらない。動くのは、言葉の選ばれやすさの偏りだけだ。

似た設定に、トップp(核サンプリング)がある。確率の高い順に候補を足し、合計がpに達したところで残りを外す設定だ。

チップ・ホイエンは、2024年1月のブログ記事で例を示した。pが0.9なら、累積確率が90%を超える最小の候補の組から選ぶ。

Temperatureは、分布の形を変える。トップpは、分布の形を保ったまま候補の範囲を絞る。

OpenAIは、APIでは二つのうち一方だけを変えるよう勧めている。もう一方は既定値のままにする。

Temperatureはロジットを値Tで割って分布全体の形を変えます。Top-pは分布の形を保ったまま、累積確率pまでの候補を残します

目安として、事実に基づく要約なら0.2から0.5、ブレインストーミングなら0.8から1.2がよく挙がる。

最適な値は、モデルとプロンプトで変わる。値は、試して比べて決める。

筋の違う案は、前提を一つ替えると出てくる

前提を替えると、AIに渡すプロンプトの中身が変わる。案は、言い回しより先に筋から変わる。

手順は三つ。一つ目に、同じ問いを用意する。

二つ目に、前提を一つだけ替えた条件を三つ書く。予算が半分だったら、顧客が高齢者だけだったら、競合がゼロだったら、という形だ。

三つ目に、条件ごとに案を出させる。出た案を、並べて比べる。

Temperatureを動かせるのは、APIの設定である。前提を替える指示なら、ChatGPTの通常の画面でも、プロンプトにいくつでも書ける。

Temperatureを上げると同じ主張が違う言い回しで出ます。渡す前提を一つずつ替えると、案は筋から違ってきます

次のプロンプトのかっこの中を、自分の課題に書き換えて使う。

(例:新しい会員サービスの案)を三つ出してください。
前提を一つずつ替えて、案を一つずつ出します。
前提A:(例:予算が今の半分)
前提B:(例:顧客が高齢者だけ)
前提C:(例:競合がゼロ)
案ごとに、前提が効いた点を一行で添えてください。

違う案が出ることと、良い案が出ることは、別の話だ。どの案が良いかは、頼む側の評価基準で決める。

三つの案を似せていたのは、設定の値ではない

冒頭の担当者は、三回とも同じ前提で頼んでいた。つまみをいくら回しても、同じ前提からは同じ筋しか出ない。

三つの案を似せていたのは、設定の値より、三回とも同じだった前提だ。

拙著『ChatGPT はじめてのプロンプトエンジニアリング』の2章1節に、プロンプトに込めた狙い、立場、欲するものが、平均的でない答えを引き出す話を書きました。読むと、設定値に頼る前に、渡す前提と狙いを替えて答えの筋そのものを動かせます。

AIの答えが物足りないとき、疑うべきはAIか、自分の言葉か。

ChatGPT はじめてのプロンプトエンジニアリング 表紙

『ChatGPT はじめてのプロンプトエンジニアリング』

AIは言葉でしか動かない。プロンプトを暗記するのをやめ、構成要素に分解して、自分の言葉で意図を込める力を鍛える本です。

読み終えたとき、手元に残るもの

  • 必須、任意、形式の三つに分けたプロンプトの構造
  • 回答の質を変える、意図を込めた生きたプロンプト
  • 発注と検収は人が担う、AIとの役割分担
  • 章末の演習プロンプト26題

4刷重版。全国の大学図書館65館が所蔵しています(2026年10月時点)。

Amazonで見る

出典

著者プロフィール・お問い合わせ