「分かったつもり」を見抜く方法：企画書を三回読み返した課員は、部長の一つの質問で詰まった

会議の前夜、課員が企画書を三回読み返した。三回とも、よく分かった、と感じた。

翌朝の会議で、部長が一つだけ質問した。「企画の目的は何ですか」。

課員は、答えの途中で詰まった。

三回の読み返しで、穴は一つも見つからなかった。

三回とも本物だったはずの手応えは、どこで理解とずれたのか。

三回分かった人ほど、穴を見落とす

分かった、という感覚は、読みやすい文章をすらすら読めたときにも湧くとされる。

読み返すたびに文章はなじみ、手応えは強くなる。四回目を読めば、さらに安心しただろう。

だが、見落とした前提は、点検の網からも漏れる。

漏れた前提は、会議の場で他人の一言に突かれて初めて姿を見せる。課員にとっては、部長の質問だった。

企画の目的は、企画書の土台である。土台を答えられない企画は、中身の良し悪しまで疑われる。

よく分かったと感じた働きの正体

前夜の課員が企画書の文字を追った働きは、認知。三回とも、よく分かった、と感じた働きは、メタ認知である。

認知（Cognition）は、思考の働きの総称だ。注意、知覚、記憶、言葉の処理、問題解決、意思決定などを含む。

メタ認知（Metacognition）は、自分の認知を一段上から点検し、調整する働きである。1970年代に、心理学者のジョン・フレイヴェル（John Flavell）が提唱した。

認知の問いは、何を知っているか。メタ認知の問いは、自分が知っていると分かるか。

ふだん言う振り返りは、終わった後の反省を指す。メタ認知は、取り組みの最中にも働く。

文章を読む途中で、三段落目でつまずいた、と気づく。問題を解く途中で、別のやり方に切り替える。どちらも、メタ認知の働きだ。

メタ認知は、三つの部品から成る。自分の得意不得意を知る知識、取り組みの最中の手応え、計画や調整の技能だ。

課員の、よく分かった、は二つ目の手応えにあたる。

研究の世界では、学習の手応えがどれだけ正確かを調べてきた。手応えが研究の対象になるのは、手応えが実際の理解とずれる場合があるからだ。

分かったつもりは、どこで生まれるのか

有名な実験がある。イェール大学のローゼンブリットとカイルが、2002年に発表した研究だ。

人は、身近な道具の仕組みを、実際より深く理解していると見積もる。

仕組みを文章で説明させると、本人が付ける理解の点数は下がった。

二人は、説明の深さの錯覚（illusion of explanatory depth）と名づけた。後の研究も、説明の前と後の点数の落差で錯覚を測っている。

分かった感覚と、説明できる理解は、別々に動く。

ここに、三回の読み返しのカラクリがある。頭の中だけのメタ認知は、自己採点になる。

答えを作った頭と、点検する頭が同じだからだ。自分の認知で自分の認知を見ると、同じ癖が点検にも持ち込まれる。

答案を書いた本人が、同じ頭で採点するのと同じである。何回採点しても、満点が続く。

AIに自信があるかを聞いても、点検にはならない

では、AIに見てもらえば安心か。

AIに、答えに自信はありますか、と聞く人がいる。はい、と返ってきたときの安心は、自己採点の満点の安心と同じ種類だ。

答えを作った仕組みと、点検する仕組みが同じだからである。

自信があるかを聞く問いは、三回目の読み返しを、AIに肩代わりさせているにすぎない。

頭の外に出すと、何が見えてくるのか

一つ目は、書き出すこと。結論を出す前に、決めること、目的、制約、良し悪しを測る物差しを文字にする。

空欄のまま残った項目が、考え残した項目だ。前夜に目的の欄が空いていれば、部長より先に課員が気づけた。

二つ目は、説明すること。分かったと思ったことを、資料を閉じて人に説明する。

説明に詰まった所が、手応えと理解のずれた所である。錯覚の実験と、同じ構図だ。

三つ目は、問わせること。自分の結論を、人やAIに渡す。前提の書き出しと、反論を頼む。

AIには、自信があるかを聞くより、前提を書き出させる。次の文面のかっこの中を、自分の結論に書き換えて使えばよい。

次の結論を点検してください。
結論：（例：来期は、新規顧客の開拓より、既存顧客の単価アップに人を回す）
お願い1：結論の前提を、決めること、目的、制約、物差しの四つに分けて書き出してください。
お願い2：書き出した前提のうち、崩れると結論が逆になるものを一つ選び、反論を書いてください。

AIが書き出した前提と、自分が書いた前提を並べる。AIの側にだけある前提が、見落としていた前提の候補になる。

最後に確かめる役は、人に残る。

四回目の読み返しより、要ったもの

部長の質問は、前夜の課員が自分に向けるべき質問だった。

前夜に要ったのは、四回目の読み返しより、企画の目的を書いた一行だった。

出典

• Frank C. Keil「Does Folk Science Develop?」『The Journey From Child to Scientist』American Psychological Association、2012年（Rozenblit and Keil 2002 の説明の深さの錯覚を紹介） https://cogdevlab.yale.edu/sites/default/files/files/Keil2012(1).pdf
• Silk-Eglit and Kurtz「Types of Cognitive Content and the Role of Relational Processing in the Illusion of Explanatory Depth」Proceedings of the Cognitive Science Society 33、2011年 https://repositories.cdlib.org/content/qt582378mf/qt582378mf.pdf?t=op2kua

拙著『ChatGPT はじめてのプロンプトエンジニアリング』の3章に、AIに思考の手順を振り返らせ、根拠を確かめさせる問いを書きました。読むと、AIの自己点検をどこまで信じ、どこから自分で確かめるかを考えられるようになります。