AIが推論しました、を信じる前に。推定、推測、推論、推理の違い

AIが推論した結果です、と添えられた資料は、なぜか人が考えた資料より確からしく見えます。ところが、AIの文脈で使われる推論という言葉は、国語辞典の推論とは別の意味で使われていることが多いのです。この記事では、推定、推測、推論、推理の違いを短く確かめたうえで、言葉の選び方が根拠の固さをどう偽装するかを考えます。

四つの言葉は、根拠の固さと考える道筋で分かれます

推定は、根拠やデータに基づいて、値や状況をおおよそ見積もることです。統計学では標本から母集団の平均を推定し、死亡推定時刻や人口推定のように数値を扱う場面で使われます。95%信頼区間のように、不確かさの幅を示すことが多いのも特徴です。

推測は、十分なデータがなくても、断片的な情報や状況から見当をつけることです。裏付けのある推測から、当て推量に近いものまで幅があります。

推論は、前提から論理の手続きによって結論を導くことです。AもBも真なら、Cが導かれる、という形をとります。結論の確かさは、前提の正しさと推論の過程の妥当性で決まり、前提が誤っていれば、正しい論理を踏んでも結論は誤ります。

推理は、手がかりを集め、筋道を立てて、隠れた事実や真相を突き止めることです。広い意味では推論の一種ですが、謎解きや事件の文脈で使われることが多い言葉です。

推定と推測は地続きで、推論と推理も重なります。公的な文書で数値を示すなら推定、根拠の弱い見込みなら推測、論理を重んじる議論なら推論、事件の描写なら推理、というのがおおよその使い分けです。

AIの推論は、国語の推論とは別の言葉です

機械学習の分野では、学習済みのモデルに入力を与えて出力を得る処理を、英語でinferenceと呼び、日本語では推論と訳すのが一般的です。画像を見せて猫と答えさせるのも、文章の続きを生成させるのも、この意味では推論です。ここには、前提から論理の手続きで結論を導く、という意味は含まれていません。計算として出力を出した、というだけです。

また、答える前に途中の考えを文章として書き出してから最終的な答えを出すAIは、推論モデルと呼ばれることがあります。途中の文章が筋道立って見えても、それは論理の正しさを保証するものではありません。途中の一歩に誤りが入れば、もっともらしい文章のまま誤った結論に着きます。

つまり、AIが推論しました、という一文は、AIが出力を出しました、と言っているのと大差ないことがあります。それでも資料の中では、推論という言葉が論理学から借りてきた重みをまとって、結論の格を一段上げてしまいます。言葉の重みは、中身が軽いときほどよく働きます。

会議資料では、言葉の選び方が根拠の格付けになります

同じことは人間の資料でも起きます。売上は落ちると推定される、と書けば、聞き手はデータの裏付けがあると受け取ります。実際は担当者の勘にすぎないなら、それは推測と書くべきです。推測に推定のラベルを貼った資料は、ラベルの分だけ、確かめるべき点を見えなくします。

ここで役に立つのは、言葉を正しく選ぶ努力より、言葉の後ろにある根拠を一行で添える習慣です。推定と書くなら、どのデータからどう見積もったのか。推論と書くなら、どの前提から導いたのか。AIの出力を引用するなら、何を入力し、どの資料を根拠にした出力なのか。一行が書けないなら、その言葉はまだ使えない段階にあります。

どこまでが推定で、どこからが推測かは、決めきれないこともあります

ただし、四つの言葉の境目は、いつもはっきり引けるわけではありません。死亡推定時刻は体温などの証拠から比較的客観的に見積もるので推定と呼ばれますが、データは決定的ではないため、厳密には推測の成分も含みます。データがあっても前提の置き方しだいで値が大きく動く見積もりを、推定と呼ぶか推測と呼ぶかは、書き手の判断に委ねられます。AIの出力についても、どこまで信頼できるかは、使ったモデル、渡した資料、問いの種類によって変わり、一つの言葉で言い切ることはできません。だからこそ、ラベルではなく根拠を添えることに意味があります。

あなたが最近書いた資料の中で、推定と書いた箇所はいくつありますか。その一つひとつについて、どのデータから見積もったのかを一行で書き足せるでしょうか。

この記事の背景にある考え方は、拙著『ChatGPT はじめてのプロンプトエンジニアリング』の4章2節、演繹、帰納、仮説検証という三つの推論のパターンをAIで扱う節に書きました。演繹について本書は「この推論では、大前提と小前提が両方とも正しければ、結論も必ず正しいと言えます。」と書き、AIが出す小前提が現実的かどうかは別に確かめる必要があるとしています。この節を読むと、AIの答えがどの型の推論で、どの前提に支えられているのかを、自分で分けて点検できるようになります。