脳と機械をつないでいいのか？　～「BMIの倫理」の議論をもう一度始める～

先月、イーロン・マスク氏が率いるNeuralink社の発表が話題を呼びました。

これは、同社が開発した脳とコンピュータをつなぐ技術、いわゆるブレイン・マシン・インターフェース（BMI）の最新の成果に関するものでした。細いファイバー状の電極を、ロボット技術を駆使して脳に何本も刺し、数千か所からの脳活動の記録、および脳細胞への刺激が可能になった、そして、来年には人間での臨床試験を目指すといいます。

この発表の概要と科学的なインパクトについては、紺野大地（@Daichi__Konno）さんによる記事にまとめられています。

イーロン・マスクとNeuralinkは脳科学をどう変えるのか｜Daichi Konno｜note

そんなことしていいの？

「人間の脳に電極を刺して、コンピュータとつなぐ」。こう聞いて、どう思われたでしょうか。「医療行為としてならありかも…」といったあたりが常識的かもしれません。しかし、マスク氏はかねてから、健常者の知的能力を増強する目的でこの技術を使う可能性に言及しています（それも、「超人化したAIに負けないために」！*1）。

感想としては、

すごい！
面白そう、でも自分はやりたくない。
自分も脳に電極を刺してみたい（！）

など、さまざまな意見が聞かれましたが、「そんなことしていいのだろうか？　ちょっと怖い…」と感じる人が大半なのではないでしょうか。

「人の脳を機械につなぐ」という試みは、Neuralink以外でも盛り上がっています。国内でも、機械と脳の接続による「意識の移植（アップロード）」を掲げる渡辺正峰氏（東京大学准教授）のベンチャー *2や、池谷裕二氏（東京大学教授）が今年から始動した「脳AI融合」を謳うプロジェクトもあります（冒頭の記事の紺野さんもその一員）。

池谷プロジェクトのWebサイト*3で掲げられている、下記の紹介文（コピー？）はなかなか刺激的です。

脳にAIを埋め込んだら何ができる
AIに脳を埋め込んだら何がおこる
脳をネット接続したら世界はどう見える
たくさんの脳を繋げたら心はどう変わる
せっかく脳を持って生まれてきたのだから
脳を目一杯使い込みたい
未知なる「知」に戯れる童心と憧心

これを読んだとき、私はびっくりしました。「何がおこる」が分からないままに「童心と憧心」で研究する…。その、あまりに「あっけらかん」としたスタンスに、度肝を抜かれました。

ちなみに言っておくと、私自身は脳に興味があり、BMI技術の進展にワクワクしている側のひとりです。「未知なる「知」に戯れる童心と憧心」は、とてもよくわかります。しかし一方で、一市民としての私は、どうしても「そんなことをしていいの？」という警戒心・恐怖心を覚えてしまいます。

少し前であれば、BMIなどの倫理的に微妙なテーマを研究する科学者は、とりあえず「医療目的」などを前面に出して正当化することがふつうだったように思います。かの『サピエンス全史』（原著は2011年刊）のなかでハラリ氏が語っているとおりです。

なぜゲノムを研究するのか、あるいはなぜ脳をコンピュータ―とつなごうとするのか、コンピューターの内部に心を生み出そうとするのかと、科学者に訊いてみるといい。十中八九、同じ紋切り型の答えが返ってくるだろう。私たちは病気を治療し、人命を救うためにやっているのだ、と。コンピューターの中に心を生み出すことの意味合いは、精神疾患を治すよりもはるかに劇的ではあるものの、そのような紋切り型の答えが、正当化の根拠として返ってくる。なぜなら、それに異論を挟める人はいないからだ。『サピエンス全史』下巻、p.263

しかし、2010年代の終盤になって、科学者は「人間知能の増強」や「意識のアップロード」や知的好奇心を前面に出すことを躊躇わなくなっている。なんだか、「たがが外れている」感じがするのです。

そんな戸惑いから、脳と機械をつなぐことの是非、つまり「BMIの倫理」を、あらためて考えてみたいと思いました。

倫理の議論は、じつは何周も経ている

「脳を機械とつないでいいのか？」

少し調べ始めると、この論点は決して新しいものではないことがわかります。むしろ、専門家のあいだでは「議論しつくされている」といってもいいかもしれません。

2002年ころに確立したと言われる、「脳神経倫理学（neuroethics）」という分野があります。「脳科学辞典」での紹介が詳しいです。

また、脳神経倫理学を全般的に扱った書籍としては下記の2冊が出ています。

美馬達哉『脳のエシックス：脳神経倫理学入門』人文書院（2010）
信原幸弘、原塑（編著）『脳神経倫理学の展望』勁草書房（2008）

こうした本を読むと、先述のような「漠然とした不安感」はすでに緻密に分析されてきたことがわかります。つまり、ことBMI技術に関しては、倫理の議論が遅れているということはなく、むしろようやく脳科学がそこに追いついてきた、というのが実相ではないかと思います。

BMIの何が怖いのか

「人の脳を機械とつなぐ」と聞いたときに、漠然と感じる「怖い」という感覚の正体はなんでしょうか。脳神経倫理学では、BMI技術がもたらしうる倫理的問題はいくつも議論されてきていますが、そのなかのいくつかを私なりの言葉でピックアップしてみます。

安全性
プライバシー侵害
エンハンスメントがもたらす新たな格差
高度な統治のツールとしての利用
人間観の変容

一番分かりやすいのは「1.安全性」だと思います。よかれと思って導入した治療や介入が、後から思わぬ副作用をもたらすかもしれない。脳科学が大きな倫理問題を引き起こした歴史的な「失敗例」として、「骨相学」や「精神外科（ロボトミー）」があげられます。よく知られているように、精神病の「治療」として行なわれたロボトミー手術は、人格の変容など深刻な副作用をもたらしました。この事例からの教訓を、『脳神経倫理学の展望』のなかで奥野満里子氏は以下のように総括しています。

精神外科が社会問題になったのは、精神外科が当時の医学界で認められない非常識な手術だったからでもなければ、開発当初の医師らがまともな倫理基準をもっていなかったからでもない。問題は、開発当初には見通せなかった長期予後の悪さにあり、患者の心・人格の変化の度合いを適切に評価できなかった術後のフォローのありかたにあり、この手術方法が各地に導入された後に起こった適応の拡大にあり、病院の症例数追求の過程におこった不適切な手術実施にもあったのである。（奥野満里子「歴史にみる脳神経科学の倫理問題――骨相学、精神外科、そして現代」、『脳神経倫理学の展望』p.93）

骨相学や精神外科手術を提唱したのは、当時としては他のどの科学者にもひけをとらない探求心と観察力と経験をもち、少なくともその公的な発言を見る限り、人並かそれ以上の倫理的良心を備えた脳研究者たちであった。（同、p.94）

Neuralinkの電極にも、こうした安全性にまつわる心配があり、この点はすでに指摘されています。

「2．プライバシー侵害」は、脳活動から本人の思考を読み取る、いわゆる「マインドリーディング」の応用にまつわる懸念点、「3．エンハンスメントがもたらす新たな格差」は、仮にBMI技術で人間の能力を増強できたとしたら、その技術にアクセスできる人とできない人との間に新しい格差が生じてしまうのではないか、という懸念です。

これくらいまでは、比較的すぐに思いつくかもしれません。「4．高度な統治のツールとしての利用」あたりになると、少し説明も難しくなってきます。下記の一節を引用するにとどめます。

規律型社会の衰退は、もはや人間の内面には立ち入らない外面的なデータによる「剥き出しの生」のコントロール型社会を生み出しましたが、生物学とその応用であるバイオテクノロジーが提供する知見こそ、そこで求められるものにほかならないからです。そのようにしてバイオテクノロジーは情報テクノロジーとともにコントロール型生政治の主要ツールになります。社会が人間の内面にかかわることをやめたのちは、その代わりに剥き出しの生物学的情報である脳情報や遺伝子情報が登場してくるというわけです。『脳がわかれば心がわかるか』p.204

分かりにくい引用になっていますが、要するに、脳に関するデータがたくさんとれるようになるにつれ、それが人々の「統治」に使われるようになる恐れがある、ということです。ユヴァル・ノア・ハラリが『ホモ・デウス』（読書メモ）でその到来を予告した「データ至上主義」にも近いものだと思われます。

個人的には、BMIの倫理問題でもっとも深い論点は、「5．人間観の変容」に関するものだと思います。『脳神経倫理学の展望』のなかで、植原亮氏は認知能力を増強する薬である「スマートドラッグ」を取り上げ、その利用への反対の立場として「人間性論法」というものを紹介しています。つまり、スマートドラッグはダメだ、なぜなら「人間性」を損なうからだ、という立場です。人間性論法の一つに、「古典的主体概念の凋落と機械的人間観の伸長」があると言います。

SD（スマートドラッグ）の普及に伴い、仕事や学業上の達成が個人に帰属されるものではなくなるおそれがある。簡単にいえば、成績が上がったのは努力の甲斐あってというよりはSDのおかげだ、ということになる。そこには、自動車を速くするには、ガソリンを良質なものに代えればよいと考える場合と大きな違いはない。そして、こうした考え方は、人間を意思と責任能力を兼ね備えた主体ないしは人格としてみるよりは、操作や介入の対象となる一種の機械としてみる観点を採ることを促すであろう（…）。いわば人間は単なる物体として扱われるようになる。（植原亮「薬で頭をよくする社会」、『脳神経倫理学の展望』p.185、太字は引用者）

上記は「スマートドラッグ」を「脳の電極刺激」などに置き換えても成り立つ議論でしょう。同書の編者である信原幸弘氏も、次のように書いています。

かつてダーウィンが唱えた進化論は、人間が最初から人間という種として存在していたのではなく、もっと原始的な生物から進化してきたという見方へと転換を迫った。脳神経科学による人間観の変革は、進化論によるそれに匹敵するような大規模な変革となる可能性がある。（『脳神経倫理学の展望』p.7）

このような、「人間が単なる物体として扱われるようになる」といった根本的な「人間観の変容」の予感こそ、「脳と機械をつなぐ」ことに感じる「怖さ」の核心にあるものではないでしょうか。

（一方で、BMI技術を待つまでもなく、そもそも人間はすでに「サイボーグ」であり、固定化した「人間観」などまやかしだ、という見方もあり得ます。久保明教『機械カニバリズム』（読書メモ）は、むしろそうして変わりゆく自分たちを肯定的に捉えようと言います。それもまた正しく思え、魅力的です。）

どうやって倫理を語るか

ざっとではありますが、脳神経倫理学では、すでにさまざまな論点が出されていることを見てきました。参照した書籍は2010年前後のものですが、2019年現在の状況に照らしても、まったく当てはまるものだと感じます。

しかし、「こういう倫理的問題がありますね」と言っているだけでは、何も始まらないだろうとも思えます。Neuralinkをはじめ、科学者・技術者はどんどん研究を進めたいでしょうし、そうするはずです。

そこで、最後に、今後どんなふうに「BMIの倫理」を語っていくのがよいかについて、ささやかな思いつきを提示して終わりにしたいと思います。

一見、「研究を進めたい科学者」と「倫理的問題を心配する一市民」のあいだには、利害の対立があるように思えます。BMI研究を進めたい科学者のモチベーションには、「患者を治したい」など、市民の利害との一致がわかりやすいものもある反面、

脳についてよりよく知ることで、自分の知的好奇心を満たしたい*4
よい業績を出して、雇用主の企業や大学に貢献したい

といった、必ずしも社会全体に資すると言えないものも含まれているからです。

でも、ここで問題を「科学者のエゴ vs 倫理」のように捉えてしまうと、先に進めなくなるのではないかと思うのです。

最近読んだばかりの平尾昌宏『ふだんづかいの倫理学』では、倫理の「多原理主義」という考え方を提唱しています。これは、ある倫理的判断を、複数の異なる「原理」の葛藤のなかから選ばれるものだとみなす考え方です。平尾著は、社会・身近な関係・個人という3つのレベルにわけ、それぞれに「倫理の原理」があるとしています。

その考え方を応用すると、BMI研究はたしかに社会全体に対して、さまざまなリスクをもたらすかもしれない。一方で、それを研究する科学者・技術者にとっての「研究する権利」もあり、それを守ることも「倫理」として考慮に入れても良いのではないか、とも思えます。もちろん、研究者という少数者の「自己実現」と、社会がそれによって被る害とでは、後者に限りない重みを置くべきなのは言うまでもありませんが、かといって前者を「ゼロ査定」してしまうような倫理論議では、そもそも科学者たちがテーブルについてくれないと思うのです。

また、自ら研究には従事しない（私のような）「科学ファン」も、実は脳科学がもたらす知的果実の恩恵を受ける受益者ですし、逆に研究者自身も、技術の影響を被るという意味ではほかの市民と同じ立場だとも言えます。そう考えれば、「突き進むマッドサイエンティスト vs 不安な庶民」の構図にはならないはずです。

いずれにしても、「危険性を予見する」というタイプの倫理議論では限界がある。研究者のモチベーションや、「わくわく感」も込みで検討する。今の技術でどこまででき、今の科学で何が分かるのかを、正確に知る（専門家は、盛らずにありのままを伝える）。そうして、「面白いけど、怖い」の正体を少しずつ言語化していく作業が、今後求められるのではないでしょうか。