出典付きのAIの答えを見誤る人の共通点：取引先の売上見通し、出典の先は匿名の書き込みだった

担当者が、取引先の調査資料30本をAIに入れた。資料には、先方の公式発表、業界紙の予想、匿名の書き込み、3年前の会社案内が混ざっていた。

AIは、取引先の来期の売上見通しを、出典付きで答えた。

出典の先は、匿名の書き込みだった。

出典は、確かに付いていた。では、出典はなぜ安心の印にならないのか。

出典付きの誤答は、見抜く手間が大きい

出典付きの誤答は、出典なしの誤答より見抜く手間がかかる。

AIが出典付きで流暢に答えると、読む人は細かな誤りまで鵜呑みにしがちだ。

脚注の多い報告書を前にすると、読む人は中身を確かめる手間を省く。出典付きの答えでも、同じことが起きる。

スタンフォード大学のLiuらは2023年、生成AIの検索サービス4種を調べた。

出典が完全に裏付けていた文は、平均で51.5%にとどまった。示した出典のうち、文の中身を支えていたのは74.5%だった。

出典が付いていても、答えの半分近くは裏付けが足りない。取引先の売上見通しも、出典の付いた誤りのまま次の計画に入りかねない。

出典付きの答えの正体は、たどれる道にすぎない

論文の脚注をたどると、主張の出どころの文献に行き着く。AIの答えにも、出どころをたどる道を付けられる。

AIの出力を確かめられる情報源に結び付けることを、ソースグラウンディング（根拠付け）と呼ぶ。

Googleは、モデルの出力を検証可能な情報源に接続する能力、と定義している。目的は、ハルシネーション（事実無根の回答）を減らすことだ。

グラウンディングが約束するのは、出典をたどれることまで。出典の先が正しいかは、約束の外にある。

RAG（検索拡張生成）は、グラウンディングに至る手段の一つである。AIは答える前に、外部の文書を探す。

質問に関係する断片（チャンク）が、質問と一緒にAIへ渡る。AIは、断片をもとに答えを作る。

RAGは、2020年にFacebook AIのLewisらが提案した。同年の国際会議NeurIPSの論文で、外部の記憶にはウィキペディアを使っている。

NotebookLMは、2026年7月にGemini Notebookへ名前を変えた。NotebookLMは、資料だけをもとに答える機能を、ソースグラウンディングと呼んでいた。

NotebookLMは裏で、RAGと長い文脈の処理を使っている。

縛るほど、混ぜた資料のとおりに正確に誤る

出典が付いても誤る原因は、三つある。一つ目は、検索が必要な情報を取りこぼした場合。

二つ目は、的外れな文書を拾った場合。三つ目は、拾った情報源が誤っていた場合だ。

三つ目なら、AIは誤りを根拠にして、堂々と誤答する。冒頭の匿名の書き込みが、まさに三つ目である。

グラウンディングには強弱がある。厳格に縛ると、AIは資料の内側だけで答える。

出典も細かく示す。

正確さは上がる。範囲外と返す場面も増える。

ゆるやかに縛ると、AIはモデルの知識や推論も使う。答えの幅は広がる。

強く縛るほど、入れた資料への忠実さが強まる。資料の質は、入れる前の仕分けで決まる。

混ぜたまま縛ると、AIは入れた資料のとおりに正確に誤る。

入れる前に、資料を四つに仕分ける

AIを資料にどこまで縛るかを決める前に、入れる資料を仕分ける。

仕分けの区分は四つ。当事者の確定情報、解釈や予想、出所が不明の伝聞、期限の切れた資料だ。

冒頭の取引先の調査なら、先方の公式発表は当事者の確定情報。業界紙の予想は、解釈や予想に入る。

匿名の書き込みは、出所が不明の伝聞。3年前の会社案内は、期限の切れた資料である。

資料が公式文書一つなら、仕分けの手間はわずかだ。出どころの違う資料を何十も混ぜるときに、仕分けが効く。

どの資料を根拠として認めるかは、問う人が決める。決めた内容を言葉にして、AIに渡す。

縛る強さは、仕分けた後で決める。

次のプロンプトのかっこの中を、自分の資料に書き換えて使える。

根拠として認める資料：（例：取引先の公式発表と決算資料）
参考にとどめる資料：（例：業界紙の予想記事）
外した資料：（例：匿名の書き込み、3年前の会社案内）
お願い：根拠として認める資料だけで答えてください。答えの一文ずつに、引用元の箇所を添えてください。

30本の中の一本になった、匿名の書き込み

AIは、入れた資料の確かさを見分けない。見分けるのは、資料を入れる人である。

匿名の書き込みも、30本の中に入れた時点で、AIには根拠の一本だった。

出典

• Evaluating Verifiability in Generative Search Engines（Liu, Zhang, Liang, 2023年）
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（NeurIPS 2020, Lewis ほか）

この記事の考え方は、拙著『GoogleのAI NotebookLM 意思決定の強化書』の2章4節「ソースを仕分ける」に書きました。この節を読むと、出典つきの答えを前にしたとき、その出典がどの種類の情報なのかを自分で問えるようになります。