2024年4月4日に、独立研究者の高木史郎さんとともに、オンライン勉強会「AI科学を哲学する？」を開催しました。以下はその簡単な記録です。
開催の経緯
発端は、昨年末に高木さんがArxivに投稿されたプレプリント論文でした。機械学習の研究者として、自律的に研究を行うエージェントの構築を目指す高木さんは、本論文でそもそも「研究とは？」という根本を問うていきます。研究はどのようなプロセスから成り立っているのか。それぞれのプロセスについて、科学哲学などではどのような概念化がなされてきたのか、科学の自動化に使えそうな技術は何か。完全自律化という究極目標に向けて視野を目一杯広げ、論点を俯瞰した力作です。
以前から高木さんの研究活動を知り、リスペクトしていましたが、このような全体像を描かれたことは私にとっては驚きでした。しかもこれを、一人で書かれたとは…。
私自身も以前からAI科学を哲学的な側面から考えることに興味があったので、高木さんに声をかけたところ、まだこれも試行的なものであり、異分野の専門家と議論する希望が強いとのこと。そんな折、今年の6月には科学基礎論学会総会（@早稲田大学）にて「AI は科学をどう変えるのか？」というシンポジウムの開催予定を知り、これは機運が盛り上がってきているなと感じたため、一緒に考えてくれる仲間探しを兼ねて、勉強会をやってみることにしました。
二人で起草した開催趣旨文が下記です。
「AI for Science」「研究DX」「ラボオートメーション」「AIロボット駆動科学」など、AI科学の話題に事欠かない昨今、「AIは科学をどう変えるのか？」という問いは、科学に関わる誰しもの関心事となりつつあります。それは、単に科学の効率や生産性を上げるだけでなく、科学という営みの根本的な捉え直しの契機にもなりうるはず。
では、そこにはどんな論点がありえ、誰が、どこで、どんな議論を行っているのでしょうか。自律エージェントによる研究自動化の可能性を探る高木と、脳科学における「理解とは何か」に関心を寄せてきた丸山は、そんな素朴な問いから出発し、これは二人で考えても埒が明かないということで、本勉強会を企画してみました。同じような関心をもつ方に気軽に参加いただき、参加者同士の視点・知見を共有する場にしたいと思います。
10名くらい集まればよいかなと思っていたのですが、予想を大きく上回る70名ほどの方に登録いただき、当日も50～60人くらいの方に参加いただきました。
その専門分野・職種は、機械学習/AI/ロボット研究者、科学哲学者（大学院生か教授まで）、STS研究者、Science of Science研究者、生物学・医学研究者、シティズンサイエンス実践者、メディア（出版・新聞）関係、企業研究者、研究関連事業者、コンサルタント、など非常に多岐にわたっていました。このテーマへの関心の高さを感じました。
当日のプログラム
当日は、高木さんと丸山からの発表を行い、その後、あらかじめ依頼していた指定コメントをいただいたのち、全体での議論という流れにしました。全体で2時間強。
高木さんからは、Arxiv論文をベースにした発表がなされました。「研究エージェントをつくる」という観点から、「研究プロセス」のいわばリバースエンジニアリングを試みた中で得た気づきや、さらなる疑問が共有されました。
- 高木さんの発表スライド：
続く丸山の発表は、一市民として「AIで科学はどう変わるのか」に関心を持つ立場から、まずはAI科学に関してどのような「問い」が存在しているのか概観するという趣旨で、いくつかの文献を紹介しながらお話ししました。
- 丸山の発表スライド：
私の話の落ちとしては、以下のようなことを言ってみました。
- 近年の「AI for Science」の隆盛の中で問われている多くの問いは、これまでの科学を「部分的に自動化」したときに何が起こるかに関するものが多い。しかし、AIにゆだねる部分が増える（＝自律化が進む）にしたがって、科学がよって立つコンセプチュアルな前提が問われることになっていくと思われ、そこでは科学哲学が扱ってきた問題圏から出てくる問いが重要になってくる*1。
- AIがどのように進歩するかわからない以上、「AIによって科学がどう変化するか」は誰にもわからない。むしろ、AI科学は「そもそも科学って何だった？」という問い直しの契機にもなることが重要*2。
- 一方、AI科学の行方は、科学AIを作る人、AIを科学に「使う人」、科学自体を探究する人（科学哲学者やその他のメタサイエンスの従事者）など、異なる角度からの興味が交差するトピックであり、「どう変わるか？」だけではなく、「AIによって科学をどう変えることができるのか？」（＝AI科学の設計論）が議論できるのではないか。
- そうしたことを議論するためにも、骨太な学問的な議論をフォローして、共有可能にしていきたい。
雲をつかむような話ではありますが、割とずっと考え続けてきたことでもあります。今後も、この方針で考えていくと思います。
ディスカッション
私たち主催者にとってのハイライトは、後半の指定討論および参加者とのディスカッションでした。ここでは本質を突く、かつ私たちの議論のフレームを広げてくれるコメントがたくさんでました。以下、個人的な意訳・敷衍を含みながら、ダイジェスト的に列挙してみます。深い思索につながりうる論点の宝庫になっているように思われます。
（※参加者の方で、万が一、ご自身のアイディアが十分に匿名化・一般化されていないと感じられた場合はすぐに削除しますので、お知らせください。）
【研究プロセスのAI化に関する問い】
- 多岐にわたる科学プロセスに、AIはすでにじわじわ入っている。「AI科学」に変わる線はどこに引けるのだろうか。
- 科学の研究プロセスを丸ごと（end-to-end）でAIにやらせたいと思ったとき、研究のどこからどこまでが「end-to-end」なのか。
- 強化学習で科学エージェントを作ろうとしたら、科学のプロセスの「グローバルな評価関数」は何になるだろうか。
【科学の目的としての「理解」に関して】
- 科学の「役に立つ」側面と、何かを合理的に理解したり、コミュニケーション可能にしたりする側面が両立できなくなる場合、私たちは科学のどの側面を大事にするのだろうか。
- これまでの科学は「人類の誰か」が作ったものだった。誰も作った人がいないAIによる科学的知識が出てきたとき、人類はその「責任」をどう負うことができるのか。
- 人間が理解できない、再現性がない科学は「芸術」に近づくのだろうか。
【異質な科学との対峙における問題】
- 人間が理解できない科学をAIがし始めたら、そういうものと人間がどうコミュニケーションをとれるのか。
- 一方、そのことは、AI科学との邂逅は、西洋科学と非西洋文化圏の邂逅などの過去の事象とどれくらい違うのだろうか。
- AIの科学を、人間がプローブし、理解できないなりに「AI科学なりの進歩があるようだ」と外から判定する方法はあるだろうか。
【「問い」を立てることに関する問題】
- 「問い」とは、探索すべき場所に当たりをつけるための帰納的バイアス（inductive bias）。現実の科学でも予算が潤沢にあれば、バイアスをかけずに探索できることを考えると、必ずしも研究に「問い」はいらないのではないか。
【集団的な認識活動としての科学】
- 科学は集団の営みであって、人々のコミュニケーションの中から言葉が創発するプロセスと似ているのではないか*3。
- 科学的知識が個人に宿るというのが近代的な知識観だが、科学的な知は分散的な表象であるという見方に、むしろ近年のAI（大規模言語モデルなど）はリアリティを与えているのではないか。
- 分散的な共創的プロセスとしての科学に、新たなアクターとしてのAIが入ったときにどうなるのか。
- 科学者AIではなく、科学の集団的・分散的なダイナミクスそのものをAIで実現するという発想の転換もありうるか。
おわりに
今回の勉強会は、まずは自分たちのよい頭の整理になりましたし、このテーマについて何周先も考えている方々に議論いただけたことで、「AI科学の何が哲学の問題になるのか」について視野を広げる貴重な機会になりました。何より楽しかった。参加いただいた方も、それぞれに得るものがあったのではないかと（希望的に）推測しています。
勉強会に参加いただいた方々、指定コメントを引き受けてくださったり事前に資料に目を通してコメントをいただいた方々に、深く感謝申し上げます。
これからも高木さんとは議論を続け、チャンスがあれば何かまたその結果を発表できればと考えています。
＝＝＝
後日、高木さんもnoteでまとめと続きの考察を公開されました。
*1:後から思うと、この趣旨のことを、昨年12月にSTS学会の「ワークショップ：科学研究におけるAI利⽤をみんなで議論する」にて、久木田水生先生が総括のコメントのなかで指摘してされていました。
*2:スライドで多用した、以下の文献でそれが強調されている。呉羽・久木田 2020「AIと科学研究」『人工知能と人間・社会』所収、大塚淳 (2023) 深層学習後の科学のあり方を考える, 鈴木貴之編著『人工知能とどうつきあうか：哲学から考える』収録, 勁草書房
*3:参考文献として、丸山から次の論文を挙げた。谷口忠大. (2024). 集合的予測符号化に基づく言語と認知のダイナミクス: 記号創発ロボティクスの新展開に向けて. 認知科学, 31(1), 186-204.
