深層学習は科学に「理解」の放棄を迫るのか？：「高次元科学への誘い」（丸山宏）へのコメント

「高次元科学への誘い」と題された上記のブログ記事について、感想を書いてみたいと思います。

敢えてコメントを書こうと思ったのは、この記事が、

いま関心をもっていることに深く関連していること
内容が面白いこと
しかし、私の考えとは違う（真逆ともいえる）見解を含むこと

の三つの理由からです*1。

同記事の、私なりの要約は以下のとおりです。

科学はこれまで、問題を要素に分割する「要素還元」と単純な原理を追求する「オッカムの剃刀」によって前進してきた。しかし近年、そうした方法論が通用しない問題に科学は直面している。生物や社会など、複雑な対象を扱う「面白い問題」の多くで、「非常に多くのパラメタがあるが、それぞれがお互いを束縛しながら動くことで出来るモデル」が必要とされるようになった。このようなモデルを扱う科学を「高次元科学」と呼ぶことにする。
深層学習は、「高次元科学」を実現するための新しい方法論になると考えられる。なぜなら、十分な量の例示データさえあれば、深層学習は任意の非線形・高次元の関数を、汎化性能よく近似することができるからである。
これまで、科学が低次元モデルにこだわっていた理由の一つは、人間が持つ認知限界にある。しかし、人間が「理解」できなくても、深層学習で扱うことができる。高次元モデルを使えば、精度の高い予測や制御が「理解なし」でできる。

記事の最後はこのように結ばれています。

「人類社会にとって解くべき問題」は、必ずしも「作用機序が理解できる問題」とは一致しないのではないでしょうか。もしそうであるならば、高次元科学という新しい科学の道具を手に入れた今、「科学の究極の目的は何か」について、もう一度見直してみる時期に来ているのではないでしょうか。

私がここから言外に読み取ったメッセージは、「もはや科学は『理解』を諦めて、深層学習を使った予測や制御に専心すべきでは？」というものでした。

ここ数カ月、「科学における理解とは何か？」を考えてきた身*2としては、「理解はもういいんじゃない？」というこの主張には、対抗したい気持ちが芽生えます。

反論を張れるだけの見解や経験があるわけではなく、また私自身は研究者ではなく一科学ファンにすぎません。そんな私ですが、ここでは二つの疑問を呈してみたいと思います。

本当に、深層学習は「面白い問題」に対して「精度の高い予測や制御」ができるのか？
本当に、「（人間の知性レベルでの）理解」を諦めていいのか／諦めるべきなのか？

一点目は、深層学習の「科学のツール」としての威力に関する疑問です。たしかに、深層学習はこれまでなかったような科学的探究を可能にすることは間違いなく、現にそれは始まっていると思います。ただし、「生物」や「社会」といった「面白い問題」の「予測や制御」に対して、どこまで万能なのだろうかという疑問があります。

たとえば、「車載カメラの画像から道路標識を正しく認識する」「チェスの盤面から形勢判断をする」といった問題では、深層学習が無類の性能を発揮することが知られています。これは、たしかに人間の「理解」を遥かに超えた「予測と制御」の能力であり、「高次元科学」の典型的な成功例と言えるかもしれません。これらに共通しているのは、「データが大量に取得できる／生成できる」ことだと思います。一方、それができない問題も多いのではないでしょうか。たとえば、誰も行ったことがない惑星の探査機の制御や、数年先の国際情勢や世界経済の予測には、参照すべきデータがなく、深層学習による「理解を伴わない予測や制御」は難しそうに思えます*3。

とはいえ、深層学習は多くの研究者の予想を超えてきた実績があります。その限界がどこにあるかは、まだ誰にも分からないのが事実だとは思います。

二点目は、仮に制御や予測が十全にできたとして、本当に「理解」は不要になるのか、もしくは、本当に「理解」は諦めなければいけないのか、という疑問です。三つほど、別の観点から意見があります。

元来、科学者が科学をする理由は一つではないと思います。予測する、制御する、治療する、理解する、等々。科学哲学の本を読むと、理論選択における「epistemic value」（認識的価値）の多様性が話題になっていたりしますが、科学には「一つの究極の目的」があるというよりは、多様なゴールを追求する営みだと捉えたいです。そのなかで「理解」というゴールをことさら捨てることはないのではないでしょうか。
人間の認知能力の限界のために、高次元のモデルは人間の理解を超えるというのはその通りだと思います。ただ、「本当に人間の理解力を拡張させることはできないのか？」という疑問は留保したいです。たしかに、人間の脳のハードウェアは何万年も変化しておらず、今後もその見込みはありません。一方で、人間は「概念」を作る能力をもっており、たとえば「複素数平面」といった数学的概念を発明することにより、「理解」の可能性を広げてきたことも事実だと思うのです。
さらに、「理解」が「予測や制御」といった科学の別の目的に対して積極的な役割を担う可能性についても考えたいです。ある予測・制御の問題に対して、科学者が深層学習で最適解を出せたとしても、その学習済みモデルが役に立つのは、その問題に対してだけだと思います。一方、科学者が何かを「理解」できたときには、その「理解」は次の「問い」を生みます（たとえば、遺伝情報がDNAという分子で担われていると「理解」されると、次には「DNAのコードは何か？」という問いが立つ、など）。その問いが、新しい「制御」や「予測」の可能性を開くこともありうるはずです。

繰り返しになりますが、深層学習が科学に新たな可能性をもたらすことについては大いに賛成しますし、今後も期待しています。ただ、ここに書いたようないくつかの点から、私としてはこれからも「理解」は科学にとって大事だと思え、どんな「理解」が可能なのかについて――一科学ファンとして――今後も考えていきたいと思います。