筆者が探究テーマとしている「神経科学の哲学」と「記憶の設計学」に関してあれこれ考えているなか、「発注」という概念が、一つのキーワードが浮かび上がってきました。以下は、そのスケッチ的なメモです。本記事で少しでも手ごたえが得られれば、徐々に肉付けしていきたいと思っています。
自律的な発注者、他律的な受注者
「皆さんには、我々の世代にはない発想で、自由に仕事をしていただきたい」。新年度が始まり、新入社員たちはこんな訓示を聞かされていることだろう。あるいは、業務発注の担当者が、キックオフミーティングで口にする「ぜひ、御社の自由な発想で、よい提案をしていただきたい」といったセリフがある。
もちろんそこでは、本当に「自由な発想」が求められているわけでない。上司や発注者は、部下や受注者に「自律性」を要求するが、あくまでそれは指示の手間を省くため。本音は、「細々言わなくても、よい感じにやってほしい」といったあたりだろう。真に受けて「自由に」やってしまったら、「ずれてる」、「使えない」と疎まれるのが関の山だ。
上司やクライアントなど仕事を依頼する側を以下では「発注者」、仕事を依頼される側を「受注者」とまとめて呼ぶことにしよう。
上図の発注者-受注者関係において、あくまで「注文」をするのは発注者の側であり、受注者ができるのはその枠内で「納品」をすることのみだ。ただし、受注者には裁量、つまり”自律性”に程度の差がある。 
受注者の”自律性”が低い場合は、発注者が入念な指示をしなければならない（左図）が、受注者の”自律性”が高ければ、簡素な注文ですむ（右図）。しかし、あくまで「何をやるのか」の決定権、最終的なイニシアチブは発注者にある。受注者に期待されるのは、注文に応えるのに役立つ限りでの”自律性”にすぎない。
後述するように、私自身は、実際の仕事の現場で生じている「発注－受注」関係（「発注モデル」と呼ぶことにしよう）がこのようなものだとは思っていない。それでも、この、「自律的な発注者／他律的な受注者」というモデルは飲み込みやすく、多くの人に共有されている図式であるとは言えるだろう。
そして、最近思っているのが、
- この「発注モデル」が実は深く私たちの思考に浸み込んでいるのではないか
ということ。そして、
ということだ。
本記事の目的は、これらの展望を素描することにある。
「発注モデル」と「AIの自律性」
まず、AIやロボットに対する私たちの期待が、この「発注モデル」に沿っていることはわかりやすいと思う。1950年代にサイバネティクスの創始者ノーバート・ウィーナーは次のように書いている。
「人が機械に命令を与える場合の状況は、人が他人に命令を与える場合に生ずる状況と本質的に違わない。」――ノーバート・ウィーナー『人間機械論（第2版）』（みすず書房、p.10）
ウィーナーに言われるまでもなく、機械は人の労働を置き換えたり、人ができない労働を実現するために作られる。AIやロボットに求められるのは、よりよい「受注者」として機能することなのだ。そして、そのために”自律性”（autonomy）が高いことが望ましい。掃除ロボットには、いちいちラジコン操作などせずにボタン一つで家中を掃除してほしいし、コールセンターのAIには、できるだけ人間オペレーターの介入なしに顧客の要求を捌いてほしい。
でも、最後の最後の「自律性」は、「発注者」である人間の側になければならない。掃除ロボットが自ら掃除をさぼったり、コールセンターAIが業務以外のおしゃべりを始めては困る。上司が部下に仕事を頼むように、もしくはクライアントが外注先に仕事を発注するように、人間が仕事を依頼／発注できるAI・ロボットが求められている。
（もちろん、ドラえもんやターミネーターのように、人間と同等な「自律性」を備えたロボット・AIをつくりたいと考えている研究者もいるだろう。人間とコミュニケーションをとり、心を交わすようなロボットはその方向性かもしれない。しかし、この意味での「本当の自律性」が、現状の工学的研究の末に実現するということは、少なくとも今の時点では考えにくいように思う。）
2019年に刊行された『AI時代の「自律性」』*1という本では、人間の尊厳の源であるような「自律性」と、AIが持ちつつあるとされる「自律性」という意味の異なる自律性概念の同居が混乱を生み始めていることに着目し、「自律性概念を整理し体系づけること」（p.2）を試みている。著者らは基本的には生命科学から出てきたオートポイエーシス論に依拠し、（現状では）生命だけに帰属される「自律性」と、機械がもつかのように見える偽の自律性（「擬自律性」）との峻別を前提として議論を進めていく。
この本を読んだ感想として、私には「自律性」をめぐる言説の混乱の原因が、もっと卑近なところに見つかるように思えた。それが上述の、発注者による「自律性」の使い分けだ。つまり発注者には
- 最終的には自分が「自律性」をもちたいが、
- 同時に受注者には、注文に応えるために最大限の”自律性”を発揮してほしい
という願いがあり、ここに意味の違う二つの「自律性」が入っている（前者はカギかっこ、後者はダブルクォーテーションで囲んだ）。前者の「自律性（autonomy）」は、自分を律すること、何がよくて何が悪いかという自分の行動の「律」（規範、norm）を自ら決めるという意味であるのに対し、後者の”自律性”は、外から加わる制御の度合いが少ないといった程度の意味となる。
AIやロボットへの「期待」と「恐れ」も、自律性のダブルミーニングで理解可能に思える。自律性概念の混乱は、AIやロボット以前から「発注者の二枚舌」として存在していたのではないだろうか。AIへの「過剰な期待と恐れ」を諫めるという目的にとって、まずはこの「発注者目線」での二つの自律性概念を腑分けすることが役に立つかもしれない。
「発注モデル」は脳や心の研究にも通底する？
こうした「発注者視点」は、私たちのものの見方に浸透しているように思える。この視点のもとでは、受注者というのは、注文を納品に変換する一つの他律的なシステムである。
もちろん、受注者が現実の人間（部下や取引先）である場合には、実際には他律的なシステムではない。しかし一度このスキームを採用すると、発注者にとっての関心事は、受注者に「どんな注文にどのような品質で応える能力があるのか」というスペックのみとなる。ある種の捨象だが、ビジネスでは必要な割り切りだとも言えるだろう。
さて、ここで面白いのは、この「自律的な発注者／他律的な受注者」モデルと、認知科学や脳科学の主流パラダイムとの親和性が見て取れるように思えることだ。
認知科学は人の認知機能を「計算」として捉える。神経科学でも、脳を計算機のアナロジーで理解するアプローチが大きな流れとなっている。ここでの「計算」には様々な意味がありうるが、多くの研究者が暗に念頭に置いているのは、人間がアルゴリズムや入出力関係を定義でき、情報が脳内で何段階かの変換（表象、representation）を経て処理されていくイメージだろう。
もちろん、「科学者が脳を受注者として制御したい／使役したいから脳を計算機として理解しようとしているのだ」と言いたいわけではない。もしかしたらそれもあるのかもしれないが、計算論的なパラダイムが純粋な知的関心から用いられていることも多いはずだ。言いたいのは、このパラダイムが当たり前のように受け入れられていることの少なくとも一背景として、本記事で述べてきた「発注モデル」のイメージがあるのではないか、ということだ。
このアプローチに沿って人間の心・脳を理解しようとするならば、まずは人間がどんなタスク、すなわち「計算」を行っているのか（What）を知らなければならない（これはMarrの3レベルでいえば「計算論」に相当）。“What”が定まって初めて、それがどう実現されているのかの”How”が問えるようになる（Marr3レベルの「アルゴリズム・表現（表象）」と「物理実装」）*2。
ここで「タスク」は、「網膜で受け取った二次元画像を三次元に再構成する」といった具体的なものでもいいし、「ある環境のもとで生き延びる」といったうんと高度で抽象的なものでもいい。後者の場合はかなり複雑な計算となるだろうが、それでも脳の作動を何らかの「計算」としてとらえ「アルゴリズム」で書き下しきることを目指したとたん、「発注モデル」とのアナロジーが成り立つ。そしてこの枠組みのなかでは、脳の側に「自律性」の居場所をつくることが難しいように思う。「自律性」は、脳を記述する科学者の側に独占されてしまっている。
しかし、発注者は本当に自律的なのか？
もとの話に戻ろう。最後に考えたいのが、冒頭の「受注モデル」が、現実にビジネスの現場で起こっていることのモデルとして果たして妥当なのかということだ。
コントロール権が100％発注側にあるような業務発注のケースにはどんなものがあるだろう。次のような場合が考えられそうだ。
- あらかじめ完全マニュアル化できる、つまりルールとして書き下せる作業。
- マニュアル化はできなくても、十分な事例（教師データセット）が用意できる作業。
- 教師データセットが用意できなくても、受注者のアウトプットに対して、十分な回数のフィードバック（ダメ出し）を与えることができる作業。
しかし、多くの仕事は（A）～（C）のいずれにも当てはまらないように思われる。（A）では、発注者が「自分が何を求めているか」を言語化できること、（B）では「求めているものを例示できる」ことが前提になる。（C）では、膨大な数の試作とフィードバック（手戻り）が必要となる。これらの条件を満たす仕事は少ないのではないだろうか。
実際には、依頼・発注側が仕様（注文）の決定権を100％持つことはない。上司は部下からの報告を聞いて、指示業務を柔軟に変える。「機械的」に発注しているように見える仕事も、そもそものビジネスモデル自体が、受注側（サプライヤー）の能力やインターフェイスによって決まっている。たとえば、出版社にとって印刷所や製本所は発注先だが、そのビジネスモデルはそうした業者の仕組みとインターフェイスに制約を受けている。つまり、依頼する側と依頼される側の関係は一方通行ではない。両者の相互フィードバックによって、多くの仕事は回っており、どちらが主でどちらが従ともつかない。
上図のように、最終納品物が発注者と受注者の相互作用の末に決まる状況を「発注者－受注者の協働制作モデル」とでも呼んでみよう。
このモデルに立つとき、発注者の考えるべきことは「自律的な発注者／他律的な受注者モデル」に比べて格段に難しくなる。相手が何をできるのかを決め打ちできず、自らの要求が変わる可能性も除外できない。かといって、すべてがアンコントローラブルになるわけでもない。システムの一部分をどうのように切り取り「他律化」するかとか、受注者との相互作用の「場」をいかに設計するか、といった課題がでてくるはずだ。現に経営学やソフトウェア工学の分野では、こうしたことについてのノウハウや理論が蓄積されているのかもしれない。
計算パラダイムの向こうを考える足掛かりとして
翻って、このような「協働制作モデル」を、AI・ロボティクスや、認知科学・脳科学に当てはめたらどうなるだろうか。
まず、AIやロボットのようなシステムが、完全なる受注者としてではなく、発注者である自分たちの行動を変化させるものとして捉えられるだろう。人間と機械が自律性を分かち合う、そういうビジョンのもとで、新しい工学的問題や倫理的問題が浮かび上がってくるはずだ。
認知科学・脳科学について予想されるのは、「脳が計算Xをしている」と決める科学者自身が前景に出てくるということ、そして「計算機として脳を理解する」アプローチを相対化し、その特徴とオルタナティブを考えるヒントになるのではないかということだ。
神経科学や認知科学の分野では、脳を情報処理装置、すなわち計算機と捉える見方には「計算主義」や「表象主義」とのラベルがつけられ、しばしば批判されてきた。認知の起点に生物の「行為」を置く「エナクティビズム」や、ユーリ・ブザーキの提唱する”Inside-out”のアプローチなど*3が、本記事での「発注」の見方によってどのように捉えることができるか、今後の課題としたい*4。
上司が部下を業務遂行能力という「スペック」で判断することが必要な場面があるように、脳がやっていることを「仮固定」してその説明にとりかかることは、脳科学にとっては必要なことだろう。しかし、ときには部下が上司のミッションそのものを変化させる可能性を秘めた自律的な存在であることを思い出すのが大事なのと同じく、脳の自律性を素直に受け止めたときにどんな新しい「問い」が湧いてくるか考えてみるのもいいかもしれない。
*1:河島茂生 編著『AI時代の「自律性」』。AI時代の「自律性」 - 株式会社 勁草書房
*2:関連記事：どうすれば脳を「理解」できるのか：「コンピュータチップの神経科学」から考える - 重ね描き日記（rmaruy_blogあらため）
*3:続・どうすれば脳を「理解」できるのか： 分かり方は一つじゃない～脳理解の多元主義へ～ - 重ね描き日記（rmaruy_blogあらため）
*4:また、本記事での「発注者視点」はダニエル・デネットの言う「設計的なスタンス（design stance）」と関係があるかもしれない。それも今後の課題。
