読者です 読者をやめる 読者になる 読者になる

rmaruy_blog

読書メモなど

思考整理メモ:「強いAI/弱いAI」の区別とは結局何なのか?

めずらしく本以外のことを書いてみたい.

テーマは「強いAI」(strong AI)と「弱いAI」(weak AI)について.

今日,会社で上司に呼ばれて「強いAIと弱いAIの違いって何なの?」と聞かれて,社内で人工知能に詳しいことになっている私なので,「それはですね〜」と意気揚々と解説を始めようとしたものの,実は自分自身よくわかっておらずに撃沈し,悔しいので調べてみた.

調べ始めてすぐに分かったのは,「強いAI/弱いAI」という概念の初出は哲学者John Searleによる1980年の論文“Minds, Brains, and Programs”らしいということだった.これは「中国語の部屋」(Chinese room)として有名な論文で,自分も大学時代に一度読んだことがあった.今日,8年ぶりくらいに読んでみたところ,冒頭1ページ目にちょっとした気づきがあったので,ここに書いておくことに.

汎用性の話なのか,意識の有無の話なのか?

論文に触れる前に,「強い/弱いAI」が一般にどう捉えられがちか振り返ってみよう.一番ナイーブには,こんな風に捉えられていないだろうか.

  • 弱いAI(?):個別的なタスク(画像のラベリング,機械翻訳,将棋,チェスなど…)をこなす人工知能
  • 強いAI(?):(「HAL」や「C3PO」のように)けっこう何でもできる人工知能

実際に,このような意味で使われているのを見ることがある.が,ちょっと考えると,この理解は間違っているような気がしてくる.というのも,個別的なタスクをこなせるAIを組み合わせて,チェスも会話も車の運転もできる汎用型のAIをつくったとしても,それは依然として「弱いAI」でありそうな気がするからだ.もっと「心」とか「知能」の本質に関わる区別のような気がする.では,これでどうか?

  • 弱いAI(?):意識や自我を持たない人工知能
  • 強いAI(?):意識や自我を持つ人工知能

こっちの方がしっくりくるかもしれない.

日本語のWikipediaの「強いAIと弱いAI」の項目を見てみると,強いAIの説明として,

コンピュータが強いAIと呼ばれるのは、人間の知能に迫るようになるか、人間の仕事をこなせるようになるか、幅広い知識と何らかの自意識を持つようになったときである。 

 

とあり,ちょうど上記二つの定義を合体したものになっていることが分かる.

何となくぼやっとしている.さっき言ったみたいに,汎用であっても意識はないAIは考えられるし,良く使われる概念のわりには,定義がはっきりしない印象だ.

ところが,Searleの論文を見ると,上のように「タスク範囲」や「意識の有無」でわける理解は,少なくともSearleの意図からは離れていることが分かる.語義がずれてくるのは仕方ないこととは言っても,ミスリーディングな面が多い気がしてくる.専門家の中では常識なのかもしれないけど,少なくとも僕や上司がここで躓いたのは間違いなので,「当り前のことを長々と…」と思われるのを恐れず,書いていこう.

サールの「中国語の部屋」論文

 Searleはどう定義しているのか.(しんどいので翻訳は省きます.)

I find it useful to distinguish what I will call "strong" AI from "weak" or "cautious" AI (Artificial Intelligence). According to weak AI, the principal value of the computer in the study of the mind is that it gives us a very powerful tool. For example, it enables us to formulate and test hypotheses in a more rigorous and precise fashion. But according to strong AI, the computer is not merely a tool in the study of the mind; rather, the appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states. In strong AI, because the programmed computer has cognitive states, the programs are not mere tools that enable us to test psychological explanations; rather, the programs are themselves the explanations.  “Minds, Brains, and Programs”より

ここだけで, 「おお!」と思った."strong AI"や"weak AI"は「こういうことができるAI」という形で定義されているのではなく,研究者の側の立場(目的)の違いとして導入されている.Searleの表現では

  • 弱いAI:心の研究において,コンピュータをあくまで道具として使う.(コンピュータそのものが心になるとは主張しない)
  • 強いAI:コンピュータを適切な方法でプログラムすれば,それが心になると考える.

となる.つまり,「コンピュータを高度化させ,アルゴリズムを改良していけば,心(mind)が出来るはず!」と大見得を切るのが強いAIの「人々」.それに対して,そこまでは言わずに,「いや,私は心の一側面を模倣しようとしているだけです」と慎重なのが,弱いAIの「人々」ということになるだろうか.

弱かったり強かったりするのはAIではなく,研究者の側の「主張」の方だったのだ.

ちなみに,Searleはこのように「強い主張」と「弱い主張」を冒頭で区別した上で,「強い主張」だけを相手にすると宣言する.そして,有名な「中国語の部屋」の思考実験を持ち出して,「強いAI」の立場は保持できない,つまりどんなにコンピュータをプログラミングしても人間の「理解」に相当することは実現しない,というのがこの論文の主旨となる.その議論について検討することはできないけれども,なかなか説得力のある主張に読めた.

ともかく,「強い/弱いAI」はもともとは「AIについての強い/弱い主張」という意味だった,ということには納得感があった(もちろん,こういう原義は忘れ去れているということではなくて,Wikipediaでも説明がある.けれど,僕の印象では,それ以外の用法が広まりすぎて,混乱のもとになっている).

だから,本来は「私は強いAIをつくる研究をしています」というのはおかしくて,「私は強いAI論者です」と言うべきなのだろう.また,「これが強いAIです」というものはなく,それを理解の主体と見なすかどうかで立場がさまざまに分かれるということなのだろう.当然,「 強いAI論者」たちの中にもいろんなアプローチがあり得て,大きなニューラルネットをつくるとか,脳をモジュールごとに模倣するとかそれぞれ頑張るわけで,それら全部の実現可能性を疑うのがSearleの哲学的立場となる.さらに,Searleの批判の矢面に立たないのが「弱いAI論者」たち,ということになる.そういう理解の仕方の方がすっきりするし,生産的とも思える.

小ネタでひっぱってしまったが,Searleの論文が思いのほか明快で,つい楽しくなって書いた.あと,原論文を振り返ることの大切さを痛感した.