自律型AIエージェントは、自律ではなく精巧な他律で動いている

自律的に動ける人材を求む、という求人票は、たいてい、その律を誰が決めるのかを書いていません。会社が決めた方針に、見張られなくても従ってくれる人を求めているのなら、それは自律ではなく、別の言葉で呼ぶべきものかもしれません。

自走性と自律性は、どちらも自分でという意味を含む言葉ですが、指しているものが違います。この記事では、二つの違いを組織、技術、教育の場面で整理したうえで、律の出どころに目を向けると、自律型と呼ばれるAIエージェントの多くは、自律ではなく精巧な他律として動いている、という見方を示します。

自走性は動く力、自律性は自分に法を与える力です

自走性は、文字どおり自分で走る性質です。外部から動力や指示を受け続けなくても、動き出し、動き続けられる能力を指します。焦点は物理的、機械的な独立にあり、観察や測定がしやすいのが特徴で、自動車、ロボット、産業機械など技術の分野でよく使われます。

自律性は自分で律する性質です。律は法則や規則を意味します。内側に持った原則や価値観に基づいて自分を統制し、独立して判断する能力を指し、カント哲学のオートノミーと結びつく規範的な概念です。カントの言うオートノミーは、外から与えられた規則に従うことではなく、理性によって自分で自分に法を与えることでした。外から与えられた法に従うことは、その反対の他律（ヘテロノミー）と呼ばれます。

なお、日本語の自律性には、人との関係の中で責任をもって自分を管理する、という含みがあり、他者からの独立や選択の自由を重んじる西欧的なautonomyとは、ずれがあると指摘されています。同じ自律という言葉でも、どの伝統で使っているかで意味の重心が動きます。

組織、技術、教育で、二つはこう分かれます

組織では、自走性は言われなくても動くことです。現場に足を運び、問題を自分で見つけて改善に取り組む姿勢がこれにあたります。自律性は、何のために動くかを自分で判断できることです。動きは速いが方向を誤るチームは、自走性はあっても自律性が足りない状態と言えます。

ロボットやAIの分野では、自走性は車輪や脚、プロペラなどの推進の仕組みで、自律性は環境を認識し、経路を計画し、学習して適応する判断の能力です。自動運転車は、操舵、加速、制動という自走性と、交通状況を判断して経路を選ぶ自律性の組み合わせです。AIエージェントは物理的には動かないので、機械としての自走性はありません。ただ、いったん指示を受ければ、追加の指示なしに作業を続けるという意味の自走性は、むしろ人間より強いくらいです。

心理学では、自律性は自己決定理論でいう自分の価値観と一致した行動に近く、自走性は外からの働きかけなしに行動を始め、続ける力に近いとされます。教育の場では、集団の中で自ら活動しながら、社会の規範を自分のものとして身につけていく、という形で両方を育てることが目指されます。

律の出どころで見ると、AIエージェントは他律で動いています

自律型AIエージェント、という売り文句の自律は、多くの場合、カントが聞いたら首をかしげる意味で使われています。エージェントが従う目的、禁止事項、迷ったときの優先順位は、ほとんどの場合、人が書いて渡したものだからです。環境を認識し、経路を選び、学習して適応する力がどれほど高くても、従っている法が外から与えられている限り、哲学の言葉では他律です。

これは言葉遊びではありません。自律と呼ぶと、AIが自分で正しい方向を判断してくれるように聞こえます。他律と呼べば、方向の正しさは、律を書いた人の側にあることがはっきりします。AIが速く走って方向を誤ったとき、見直すべきなのはAIの判断力より先に、渡した律の書き方です。

ですから、AIに仕事を任せるときに設計しているのは、自律の範囲というより、他律の書き方です。

• 守らせる原則: 目的、禁止事項、迷ったときの優先順位
• 任せる判断: どこまでをAIが決め、どこから人に確認を戻すか
• 渡す材料: 判断の根拠にしてよい資料はどれか

同じ構図は人の組織にもあります。自分の頭で考えて動け、ただし方針からは外れるな、という指示は、自律を求めながら、何に従えばよいかという律は渡していない、という二重の注文になっています。部下が迷うのは能力の問題ではなく、注文の問題です。

AIが自分で律を持つ日が来るのかは、まだ分かりません

この見方が成り立たなくなる可能性もあります。AIが自分の目的や基準を学習の中で作り変えていくようになったとき、それを自律と呼ぶべきかどうかは、理性や意志をどう定義するかに左右され、哲学の中でも決着していません。そうなったとき、律を書く人の役割がどう変わるのかも、いまはまだ誰にも言えません。言えるのは、少なくともいま使われているAIエージェントの多くでは、律を書く仕事が人の側に残っている、ということです。

あなたがAIに渡している指示の中で、目的、禁止事項、迷ったときの優先順位は、どこまで言葉になっていますか。あなたの組織で自律と呼ばれているものは、本当は誰が書いた律に従っているのでしょうか。

この記事の背景にある考え方は、拙著『ChatGPT 誰でも1時間でできる！ はじめてのGPTsのつくり方』の3章7節「考えるGPT」に書きました。評価基準や判断基準を言葉にして組み込み、AIに判断を支えさせる節で、基準をAIに提案させることはできても、「その基準を検討、吟味し、決定するのは人間の責任です。」と書いています。この節を読むと、AIに渡している基準のうち、どれを自分が決め、どれを決めないまま任せているのかを、自分で点検できるようになります。