2025/08/24 更新 2026/10/25

何を事実と受け取るかを、AIに任せてはいけない：読む記事を本人より先に決めたのは、一覧の並び順だった

夕方、会社員がスマートフォンでニュースの一覧を開いた。

一覧には、AIが選んだ記事が並んでいた。

会社員は、上から三つを読んで画面を閉じた。

読んだのは三本。選んだのは、本人ではなかった。

どの記事を事実として受け取るか。本人より先に、一覧の並び順が決めていた。並び順を決めたのは、誰なのか。

主体としてのAIの正体

歴史家ユヴァル・ノア・ハラリは、AIを、自ら決める「主体」と見る。

斧から原子爆弾まで、従来の技術は、人が操作する受け身の道具だった。爆弾の標的を選ぶのは、人だ。

ハラリの言う主体としてのAIは違う。自ら決め、新しいアイデアを生み、独立して学ぶ技術である。

ハラリは、知能を「問題を解く能力」と呼ぶ。意識は、「痛みや喜びや愛を感じる能力」だ。

ハラリによれば、AIは「意識ゼロの超知能」になりうる。

危険なのは、私たちを憎むAIより、私たちに無関心なまま目標を追うAIだという。

これまでの技術は人が操作する道具で、爆弾の標的は人が選びます。ハラリはAIを、自ら決め、新しいアイデアを生み、独立して学ぶ主体と見ます

会社員の一覧で、三本を上に置いたのは道具か、主体か。ハラリの見方なら、答えは主体の側にある。

物語を大量に作るAIで、何が崩れるのか

人類の大規模な協力を支えてきたのは、共有の物語への信頼だ。お金、法律、国家、神々。

言語を操るAIは、物語を大量に作り出せる。

ハラリは警告する。人ごとに最適化した物語が広がると、民主的な議論に要る「共通の現実」が崩れる。

会社員の一覧にも、同じ問いが当てはまる。誰に合わせて、誰が並べた一覧なのか。

ハラリは、物語の力から四つのリスクを導く。

偽情報やなりすましボットによる公共圏の崩壊
役割を失う「無用者階級」
理由を伏せたまま融資や仕事を拒む、内部からの乗っ取り
監視によるデジタル独裁

ハラリの警告は、どこまで信じてよいのか

ハラリは、国際的な規制機関、開発の一時停止、教育の転換、信頼の再建を提案している。

警告には批判もある。

警告が過剰だという批判。ニューラルネットワークは数学的なモデルにすぎないという批判。

道具と使う人を混同し、責任をAIへ移しているという批判もある。

ハラリの主張を読むときも、主張と根拠を分けて読む。警告そのものも、仕分けの対象になる。

事実の範囲は、自分の手で決める

会社員が読んだ三つの記事にも、事実と意見と噂が混ざっていた。

受け取った情報は、事実、意見、噂の三つに仕分ける。

仕分けをおすすめの並び順に預けると、事実の範囲をアルゴリズムが決める。

仕分けを自分で行う人が、意思決定の主体であり続ける。

AIに要約や比較を頼むときも、同じだ。何のために、何を根拠として扱うかを言葉にして渡す。

前提を渡したプロンプトなら、どの情報を重く見るかを、頼んだ本人が決められる。

次のプロンプトのかっこの中を、自分の用途に書き換えて使う。

次の資料を要約してください。
目的：（例：AIの規制について、社内勉強会で話す論点を決めます）
根拠として扱うもの：（例：公的機関の報告書と、発言者が明らかな講演録）
保留するもの：（例：出典の書かれていない記事、匿名の投稿）
お願い：事実、意見、噂に分けて並べてください。保留したものは、理由を添えて別に挙げてください。

最後の行で、事実、意見、噂の仕分けを、目に見える形でAIに返させる。仕分けの結果を確かめるのは、頼んだ本人だ。

三本目を閉じる前の、一つの問い

仕分けを自分の手に置く人が、ハラリの言う「共通の現実」を支える。

夕方の一覧の三本目を閉じる前に、問えばよい。並べたのは誰で、仕分けたのは誰か。

拙著『GoogleのAI NotebookLM 意思決定の強化書』では、資料を事実、意見、噂、ゴミに仕分け、前提を言葉にします。読むと、AIを使いながら最後の意思決定を自分の手に残せるようになります。社内の研修や講演で取り上げる場合は、講演と研修の案内をご覧ください。

出典

著者プロフィール・お問い合わせ