rmaruy_blog

読書メモなど

思考整理メモ:人工知能をトランスサイエンス問題として考えてみる

2016年も、やはり人工知能ブームがすごかった。

理工書出版の世界でもやはり影響も大きくて、一つの技術の話題でこれだけの数の本が出るというのは、ちょっと例がないのではないかと思う。国会図書館のサイトにて「人工知能」をキーワードに「本」を検索してみると、2013年は5件がヒット、2014年は10件、2015年で31件。この時点で出版ラッシュが来ていると感じ、そのことを去年のブログに書いたりもした。

しかし2016年は、12月5日現在で94件。昨年の3倍を軽く上回る数の「人工知能」の書籍が世に出ている。さすがに今年がピークになるのではないかと予想しているが、どうだろうか…*1

出ている本の内容は様々だった。ディープラーニングを中心とするAIの技術面を扱うものから、社会への経済的インパクトにフォーカスしているものもあれば、哲学的な論考もあった。私も10冊くらい読んでみたが、そのなかでなされている未来予測は様々で、「AI技術はこれまでにない所得格差を生み出す」「行き詰まった日本経済を立て直すカギだ」「過度な期待や恐れは無用である」など、著者によって意見が違っていた。それでも、複数の本を比べ読みすることで、それなりに「AIブーム」の全体像を知ることができた。

ある程度情報を仕入れてブームの実態について大体わかった次の段階として、誰しも考えるのは、「で、自分はどうする?」ということだと思う。

  • AI技術の進化でもたらされる(らしい)社会の変化に、自分はどう適応していけばいいのか?
  • AI技術を、自分の生活・仕事にどう取り入れればよいのか? 
  • AI技術によって自分はどんな不利益を被る可能性があって、それをどう回避すればよいのか?

こういうことを、各自で考えることが求められる時代になっている。

私たちは、AIが(良しにつけ悪しきにつけ)変えてしまうという未来に対して、どんな心構えでいればいいのか?

ここでは、「プライバシーの問題」や「軍事利用の問題」といった個別の問題は脇に置いておいて(そういうのは本にたくさん書いてあるので)、ちょっと違った視点から考えてみることにする。ざっくりと「科学技術をめぐるコミュニケーション」という枠組みで捉えてみることにして、具体的には、「トランスサイエンス問題」という概念を手掛かりにして考えてみたい。

 

トランスサイエンス問題とは

トランスサイエンス=Trans-Scienceは、「科学を超えている」という意味だ。1972年に核物理学者のアルヴィン・ワインバーグが提唱した概念だとされていて、初出論文*2のなかでは、「トランスサイエンス問題」は、

questions which can be asked of science and yet which cannot be answered by science (科学に問うことはできるが科学に答えることはできない問題)

だとされている。

たとえば、原子力発電所を例があげられている。原子炉の安全性を考えるとき、まず、「原子炉の安全棒が壊れたらどうなるか?」などの問いには、科学者(専門家)は物理学や工学の知識をもとに答えることができる。しかし「原子炉の安全棒はどれくらいの確率で壊れるか?」という問いになると、科学者には確定的な答えが出せなくなり、答える科学者によって回答はばらついてくる。さらに、「原子炉を運用すべきか?」という問いに対しては、科学では、当然ながら答えられない。このように、不確実性があったり、価値判断を含んだりするために、科学者(専門家)が科学的知識だけからは答えられない問題が「トランスサイエンス問題」である。

こう聞くと、「科学者に答えられないこと」があるのは当たり前だろう、という気もしてくる。だが、ポイントは「科学に問うことができるが~」という前半部分にある。科学の枠を超えた判断をするためには、まず科学に問わなければならない。ワインバーグ氏は、科学者は「科学に答えられる部分にはしっかり答えること」に加えて、「どこから先が科学には答えられないかをしっかりと線引きすること」が大事だと述べている。

2011年に出された『もうダマされないための「科学」講義』(光文社新書)という本には、「トランスサイエンス・コミュニケーション」という考え方が出てくる。科学技術社会論を専門とする平川秀幸氏は、トランスサイエンス・コミュニケーションを、「対象となっている科学技術の専門家からほかの人々へ、という方向で知識や情報を伝えるだけ」ではなく、「逆向きに、人々の懸念や疑問、不安、期待、要求を専門家に伝え、両者のあいだの直接的ないし間接的な「対話」を促進する」(p.198)という双方向のコミュニケーションと位置づけ、3.11後の科学コミュニケーションにおけるその重要性を訴えている。

まとめると、専門家とステークホルダー(=ユーザ)の双方が、ある科学技術に「トランスサイエンス」的な側面があることをちゃんと理解して、対話をすることが大事だ、ということがワインバーグ氏の論文以来言われている。ユーザ側に関して言えば、科学技術の恩恵を正しく得るために、専門家に働きかける必要がある。たとえば、

  • 専門家に質問をする
  • 専門家たちに、「こんな技術を作ってほしい」と要望する
  • 逆に、「こんな技術は実現しないで」と要望する

などが必要になるということになるだろう。

 
人工知能をトランスサイエンス問題としてとらえてみる

では、人工知能はトランスサイエンス問題なのだろうか。

ワインバーグ氏や平川氏は、主に原子量発電のリスクや放射線の低線量被ばくのリスクに関する問題を挙げており、そのほか「地震災害への対策」・「遺伝子組み換え食品」・「地球温暖化」などが典型的なトランスサイエンス問題として挙げられているのを目にすることも多い。

そうした問題に比べると、人工知能は一見ちょっと性質が違う気もする。人工知能の何が「問題」なのかが明確ではないし、「誰が専門家なのか」もわかりづらい。でも、そうした捉えどころのなさは、人工知能という概念自体の広さ・あいまいさからくるのであって、人工知能には一つではなくいくつもの「トランスサイエンス問題」が含まれている、とらえることもできそうだ。

では、AI技術について、どんな「トランスサイエンス・コミュニケーション」が考えられるだろうか。

ワインバーグの説明に沿えば、トランスサイエンス問題には「専門家に答えが出せること」「専門家に確かな結論を出せないこと」「価値判断が関与するので専門的知識では答えがだせないこと」の3段階がある。それにそって考えてみると、まず、「AIの専門家に聞いて、何らかの答えが期待できること」としては、

  • 現状のAI技術はどのような原理に基づいて動いているのか?
  • あるタスクをAIで実現するのに必要な前提条件(データの種類・量など)は何か?

などが思いつく。次に、「不確実性が大きい問い」としては、

  • 今後、AIはどのように進歩していくのか?
  • どのような危険があるか?(ex 自動運転車は年間どれくらい事故率を出す?)
  • 産業にどれくらい取り入れられていくか?

などがありそうだ。数年前に、AIによって半数近くの職業が代替可能になるという大胆な予測で話題になった“The future of employment: how susceptible are jobs to computerization?”(意訳「:雇用の未来:職業はコンピュータ化によってどれくらい脆弱か」)*3という論文がある。2013年に、経済学者と機械学習の専門家の共著で出されたものだ。この論文にしても、よく読んでみると、実はいろいろな前提や主観的な判断が入っていて、一つの可能なシナリオを示しているだけだということがわかる。結局、専門家(経済学者や機械学習研究者)の間で、「AIがどの程度職を奪うのか」についての一致した予測はない。

最後に、「専門的見地では決して答えが出せない問い」には

  • AIのリスクをどれくらい社会的に許容するか?
  • AI技術の浸透を食い止めるべき領域や、その合理的な理由があるか?

などが考えられるだろう。

以上のように、人工知能技術も、トランスサイエンス問題の枠組みに一応当てはまりそうだ。

例:「AIによる自分の専門技能の陳腐化」の問題

最後に、「AIが職を奪う問題」を例に今の考え方をあてはめてみる。

私がいくつかの本を読んでわかったのは、今回のAI技術の根幹にあるのは「データ」だということだった。十分な学習データがそろっていれば、手順が明確化していなくても、そのタスクを自動化できる。先の「雇用の未来」論文から引用すると、

While computerisation has been historically confined to routine tasks involving explicit rule-based activities … algorithms for big data are now rapidly entering domains reliant upon pattern recognition and can readily substitute for labour in a wide range of non-routine cognitive tasks.

(従来は、規則が明確な定型的タスクに限って、コンピュータ化がなされてきた。しかし近年、人がパターン認識で行ってきた業務分野にもビッグデータを利用したアルゴリズムが急速に導入されつつある。それは、非定型的な認知的タスクを伴う広範な労働を代替していく可能性が十分にある。) 

とある。これを聞くと、「自分の業務が自動化されて、そのツールに自分がアクセスできないときに、自分は労働市場から疎外されてしまうのではないか」ということが心配になる。だとしたら、専門家に聞くべきこととして

  • 「どんなデータがあれば、自分の業務内容が自動化できるかのか?」

などが考えられる。そのうえで、専門家たちに、

  • 「自分の業務の自動化に死活的なデータを、自分たちに不利に働くような仕方でビッグデータ企業に吸い取られることのないようにすること」

を要望することなどが考えられるかもしれない。

 
まとめ

以上、トランスサイエンスという概念を頼りに、人工知能技術との関わり方について考えてみた。もちろん、専門家側も、人工知能の作る未来が明るいものになるように考えていて、たとえば人工知能学会が倫理綱領の案*4を出したりしている。

その一方で、私たちユーザの側も、正しい情報を集めて、みずから質問や要望を出していくことが必要になると思う。

 

 

*このエントリーは、CoSTEPのレポートの下書きとして書いたものです。

 

*1:自分が企画編集で関わった本も3冊ほどあるので、微力ながら出版ラッシュに加担した1人ではある。

*2:Weinberg, Alvin M. "Science and trans-science." Minerva 10.2 (1972): 209-222.

*3:Frey, Carl Benedikt, and Michael A. Osborne. "The future of employment: how susceptible are jobs to computerisation." Retrieved September 7 (2013): 2013.

*4:人工知能学倫理委員会 人工知能研究者の倫理綱領(案),2016/6 http://ai-elsi.org/wp-content/uploads/2016/06/%E5%80%AB%E7%90%86%E7%B6%B1%E9%A0%98%E6%A1%88_Ver3.1.pdf