AIに知識を覚えさせる前に決めておくこと:「マスオさんは婿養子ですか」と聞かれ、自作のAIは「はい」と答えた

社内の勉強会で、担当者が自作のGPTを披露した。GPTには、『サザエさん』一家の設定を覚えさせてあった。

参加者の一人が聞いた。「マスオさんは婿養子ですか」。

GPTは即答した。「はい」。

公式の設定では、マスオさんの姓はフグ田のままである。

GPTの答えは、作品の設定ではなく、世間の常識に沿っていた。

怖いのは、間違えたことだけではない。補った答えを、GPTは公式の設定と同じ自信で口にした。

覚えさせたはずの知識の中で、何が起きていたのか。

婿養子説はどこから来たのか

マスオさんは、妻子と一緒にサザエの実家で暮らしている。姓は、フグ田のまま。

公式の設定に、マスオさんと波平やフネの養子縁組(法律の上で親子になる手続き)の記述はゼロ件だ。

法律の上では、別々の二つの世帯が一つ屋根の下で暮らしている。

誤解の出どころは、世間の常識である。妻の実家に住む夫は婿養子だろう、という思い込みが、作品の設定の空白を埋める。

カラクリは一つ。知識の空白を、AIは常識で埋める。

設定の外側は、人もAIも手持ちの常識で補う。違いは、AIが補った答えを公式の設定と同じ自信で口にする点にある。

マスオさんは婿養子ですかという質問に、知識に答えがあればAIは公式の設定で答え、知識の外の質問なら世間の常識で空白を埋めて、公式と同じ自信ではいと答えます

なぜAIは「分からない」と言わないのか。

OpenAIは2025年9月の論文と解説記事で、原因の一つを示した。正答率だけを競う評価が、「分からない」と答えるより当て推量のほうが得になる仕組みになっているという。

同じ記事は、二つのモデルの比較を載せている。回答を控えた率が1%のモデルは、誤答率が75%に達した。控えた率が52%のモデルは、誤答率が26%にとどまった。

当て推量を重ねるほど、AIの答えからは、どこまで確かかという手がかりが消える。

漫画の設定なら、笑い話で済む。社内のFAQボットも、同じ仕組みで動く。

規程の条文、誰かの経験談、古いメモが同じ文体で並ぶと、AIはどれも同じ重さで答える。

答えに「公式」や「推定」と添える、確かさのラベル

防ぐ手はある。答えの一覧に、答えごとの確かさのラベルを添えればよい。

「サザエは24歳」の一行には、「公式」の二文字を添える。「波平は54歳」の一行には、「揺れる」の三文字を添える。

添えた一語が、確かさのラベルだ。ラベルが、AIの答え方を決める。

GPTとは、ChatGPTで作る自分専用のAIである。渡した資料(知識ファイル)を参照して答える。

ラベルは四つ。公式の設定、資料で揺れる値、計算や推定、推察や説に分ける。

公式の設定なら、AIは値どおりに答える。揺れる値なら、両方の値を示す。

推定には、推定と書き添える。推察や説は、説として紹介する。

確かさのラベルは、公式の設定、資料で揺れる値、計算や推定、推察や説の四つで、ラベルごとにAIの答え方を変えます

年齢表と猫のタマに潜む「揺れる値」

ラベルの振り分けは、一家の年齢表で試せる。

名前続柄年齢
磯野波平磯野家の家長、サザエ、カツオ、ワカメの父54歳
磯野フネ波平の妻、3人の母50ン歳
フグ田サザエ長女、マスオの妻、タラオの母24歳
フグ田マスオサザエの夫、タラオの父28歳
磯野カツオ長男、小学5年生11歳
磯野ワカメ次女、小学3年生9歳
フグ田タラオサザエとマスオの長男3歳

公式の設定では、サザエは24歳、カツオは11歳だ。二人の年齢には、公式のラベルを付ける。

波平の年齢は54歳。ただし53歳とする資料もある。波平の年齢には、揺れる値のラベルを付ける。

フネは、公式には「50ン歳」。波平より年下と置けば、51〜53歳ほどと推定できる。

年齢を並べると、サザエとカツオの間には10歳以上の差がある。引き算の答えは、誰が計算しても同じだ。

差の背景に、時代の事情を見る説もある。作中で理由を語る場面は、ほぼゼロ。

年齢差の背景には、推察や説のラベルを付ける。

猫のタマも見ておく。タマは三毛猫で、遺伝の特徴から、ほぼ確実にメスだと考えられている。

九州大学などの研究グループは2025年、毛をオレンジ色にする遺伝子の変化を突き止めた。科学技術振興機構のサイエンスポータルの解説によれば、色を決める遺伝子はX染色体の上にある。

オスはX染色体を1本しか持たない。そのため、ふつうは一色になる。

それでもタマの性別は、作中で確かめた答えではなく推定だ。AIに渡すときは、推定のラベルを付ける。

「いとこ」と言い切らせる、知識の表の書き方

ラベルは、言い切ってよい答えを言い切らせる場面でも効く。

波野ノリスケは、波平の妹の息子だ。出版社で、作家の伊佐坂先生を担当する編集者である。

ノリスケとカツオの関係は、二段でたどる。ノリスケは波平の甥。

カツオは波平の子。二人は、いとこだ。

関係を一行ずつの表で渡せば、AIは二段のたどり方を表の上で追える。

「ノリスケは波平の甥」と「カツオは波平の子」の二行に、公式のラベルを付ける。二行とも公式なら、AIは「いとこ」と言い切れる。

五つの家の関係も、同じく一行ずつ表に書く。

サザエさん一家は、磯野家、同居する別世帯のフグ田家、ノリスケの波野家、九州の海平とノリスケの母、大阪のマスオの母と兄一家の五つの家でできている

知識は、名前、続柄、年齢、確かさ、出典を一行ずつ並べた表で渡す。指示の欄には、ラベルごとの答え方を書く。

次の文面のかっこの中を、自分の資料に書き換えれば使える。

あなたは、(例:『サザエさん』の登場人物)について答える担当です。
知識ファイルの表にある、確かさの列に従って答えてください。
公式:そのまま答えます。
揺れる:出典の違う値を両方示します。
推定:推定と書き添えます。
説:説として紹介し、出典を添えます。
表の外の質問には、(例:公式の設定の範囲外です)と答えます。

AIに渡す知識の表は、名前、続柄、年齢に確かさと出典の列を足し、サザエは公式、波平は揺れる値、フネは推定と一行ずつ書き分けます

確かさのラベルを付けるのは、知識を渡す人の仕事だ。公式と推測を分けて書く作業は、自分の前提を言葉にしてAIに渡す作業でもある。

「はい」を「範囲外です」に変える一手

AIは、知識の空白を常識で埋める。埋めた答えに確かさの印はない。

印を付けるのは、表を作る人だ。最後の一行に、表の外への答え方を書いておく。

表に婿養子の行がなければ、あの勉強会のGPTも「はい」ではなく「公式の設定の範囲外です」と答えたはずだ。

拙著『ChatGPT 誰でも1時間でできる! はじめてのGPTsのつくり方』の3章5節に、この記事の考え方を書きました。読むと、自分用のAIに資料を読ませるとき、中身だけでなく確かさの違いまで区別して渡せるようになります。

自分の仕事に効くAIは、誰が作るべきか。

ChatGPT 誰でも1時間でできる! はじめてのGPTsのつくり方 表紙

『ChatGPT 誰でも1時間でできる! はじめてのGPTsのつくり方』

要件を日本語で書き出せば、それがそのままAIを動かす。現場の知識を持つ人が自分で作り、育てる、内製化のための本です。

読み終えたとき、手元に残るもの

  • 目的、役割、入力、出力をそろえる要件定義の型
  • 評価基準と判断基準を持たせる考えるGPTの作り方
  • テスト用のダミーデータで直していく手順
  • 複数のGPTを分業と協業でつなぐ設計

画面や機能の記述は2024年時点のものです。仕事を分解し、基準を言葉にする考え方は今も変わりません。

Amazonで見る

出典

著者プロフィール・お問い合わせ