重ね描き日記(rmaruy_blogあらため)

読書メモ、探求メモなど。

読書メモ:機械カニバリズム(久保明教 著)…「AIは人間を超えるか」談義をそろそろやめるべき理由

 

機械カニバリズム 人間なきあとの人類学へ (講談社選書メチエ)

機械カニバリズム 人間なきあとの人類学へ (講談社選書メチエ)

 

人工知能ブームが終わりかけている。

AI関連本を何冊か企画・編集してきた個人の感覚としてもそう思うし、最近会った何名かの情報系の研究者も、口をそろえてブームの終了(少なくとも「ピークアウト」)を口にする。

このブームの間、多くの本が出た。本ブログでも、AIにまつわるたくさんの本の感想を書いてきたが、多くは「文系」の本だ。科学史、メディア論、経済学、哲学・倫理学など視点から、人工知能という概念の出自、ブームの背景、未来の展望がさまざまに論じられていた。テレビでも雑誌でも、人工知能は数限りなく取り上げられた。

工学の一領域にすぎないこのテーマについて、なぜ私たちはこんなにも語りたくなるのか。それは、AIについて話すことは、自分自身(=人間)について話すことだからだ。松尾豊先生の『人工知能は人間を超えるか』(2015年)は今回のブームでおそらく一番売れた本だが、そのタイトルがまさに象徴している。AIは人間を凌駕するのか、否か? イエスと答えるにせよノーと答えるにせよ、誰しも意見を持っていて、ひとしきり盛り上がることができる。お正月の親戚の集まりですら、AIの話になったりする。

本書『機械カニバリズム』は、そうした「AI談義」に終止符を打たんとする。

この本のメッセージの一つが、

 「人工知能は人間を超えるか?」という問いは意味をなさない

というものだからだ。

 

どういうことなのか。

以下、本書から読み取れた範囲で、自分なりの説明を試みたい。

ちなみに『機械カニバリズム』は、人類学の視点から人間と機械(AIを含む)の関係性がどのようにとらえられるかを論じた本だ。本格的な学術書であり、抽象度の高い人類学特有の用語が出てくるところはかなり難しい(その一方で、将棋や小説を題材にした箇所など、ルポルタージュや文芸評論のように楽しく読める部分もある)。

なので、本書全体の書評をすることは私の手に余る。ここでは、人類学の学術的文脈や、フーコーやラトゥールなどから援用される概念には触れず、本書タイトルの「カニバリズム(食人)」とは何かについてさえ触れないで済まそうと思う。そんなスカスカな読み方をしても、十分に濃密な一冊なのだ。

 

AIは将棋のプロ棋士を超えたか?

「AIは人間を超えるか?」の話をするとき、「将棋やチェスでは超えたけど…」を枕につけるのがお決まりになっている。将棋やチェスでは「AIが人間を超えた」ことになっている。たしかに、電王戦ではソフトがプロ棋士を負かし、もはやトップ棋士でも最強のソフトには勝てないというのが大方の見方だ。

だから、少なくとも将棋では「AIは人間を超えた」。そう結論しそうになるところで、著者は待ったをかける。人間棋士とソフトの「強さ」を対局の勝敗で測る議論には、いくつかの短絡がある。

一つには、将棋の「強さ」を比べるには「同じ条件での対局」が必要だが、AI vs 人間の対局では何が同条件なのかが定義できないという点がある。ソフトが膨大なメモリや高速のCPUを積んでいるのなら、人間の持ち時間を長くしたり検討用の将棋盤(継ぎ盤)を「持ち込みあり」にしたりしないと釣り合わないかもしれない。

もう一つには、ソフトの登場前後で「将棋の強さ」の意味が変わった、という点がある。棋士たちの研究にソフトが使われるようになると、常識外の新種が次々と発見され、実戦で使用されている。自身はソフトを使わない棋士も、ソフト由来の新手への対策をとらなくてはいけなくなる。ソフトの考える手というのは、人間の棋士が思いつく手とはまったく違うようだ。その理由を、著者は将棋における「フレーム問題」へのアプローチの違いとして説明している。

将棋をめぐる人間と機械の思考はどちらも限定されている。だが、制約のされ方は異なる。ソフトの数値的思考は計算のフレームによって限定される。人間の物語的思考は流れの把握によって限定される。人間と機械はともに異なる檻に閉じ込められていて、たがいが住まう閉域の外部があることをたがいが示すことのできる関係にある。p.59

ソフトを手にした棋士は、人間ならではの「物語的思考」による手の選択に加えて、ソフトの「数値的思考」がはじき出した手を試すことができる。これにより、「大局観」やなんとなくの「怖さ」による盤面評価の能力といった、これまで将棋の「強さ」だと思われてきた要素だけでは、将棋に勝てなくなる。人間対人間のゲームだったはずの将棋が、「人間+ソフト」対「人間+ソフト」のゲームになったといえるかもしれない。

電王戦における棋士とソフトの相互作用を通じて、将棋において競技と文化を繋いできた「強さ」なるものは著しく不安定化した。「コンピュータは棋士よりも強いのか」という問いに駆動された興行を通じて、むしろ「強さ」という観念自体がさまざまに変化してきたのである。p.123

 うんと単純化すると、こういうことになるだろうか。

  • たしかに、将棋ソフトは人間との対局に勝てるという意味では「強く」なった。
  • でもその「強さ」は、ソフトがない時代にイメージされていた「強さ」とは全く違う意味の強さである。
  • もともとプロ棋士と「強さを比べる」目的で開発された将棋ソフトだが、その登場によって「人間棋士の強さ」の意味をも変えてしまった。

この将棋を事例をもとに、著者はいう。

人間と機械が同じ基準によって十全に把握されえない以上、「どちらが優れているのか」という問いは、いくらでもその判定結果を疑うことができる。(…)重要なのは、むしろ人間とは異なる仕方で世界を生きる機械と私たちはいかにつきあうことができるのか、機械との関係を通じて人間なるものはいかに変化していくのかという問いである。

 

同じことはどこでも起こる(例:機械翻訳

同じことは、今後いろんな分野で進んでいくと思う。

たとえば、機械翻訳はどうだろうか。翻訳に関しても、「人間の翻訳者のレベルに達することはあるか?」がよく話題になる。プロの翻訳家にとっては、「AIは仕事を奪うか問題」の一種といえるかもしれない。

よく聞く解答は、「どんなにGoogle翻訳の質が上がっても、最後にその翻訳が文脈に即しているかを判断するのは人間。だから、人間の翻訳家は必要」というものだ。私もおおむねそう考えてきた。

でも、将棋のプロ棋士が将棋ゲームを「解けて」はいないように、人間の翻訳家だって完全じゃない。あくまで限られたリソースを使って最大限文脈を考えて適切な訳文を選ぶだけだ。そう考えると、巨大データベースを使って機械学習で訳文をはじき出す機械翻訳は、「翻訳」というゲームにおいて新しい「強さ」を生み出すのかもしれない。考えてみれば、いまの翻訳者だって、翻訳するときにGoogle検索は多用しているはずで、インターネットがなかった時代に比べて精度の高い翻訳ができているだろう。翻訳者 vs 機械の図式は成り立たないのだ。同じように、機械翻訳は「良い翻訳」の意味を変えていくのかもしれない。

こんなふうに考えると、「Google翻訳は人間の翻訳力を超えるか?」という問いは的外れに思えてくる(ただし、そのことと、翻訳業において技術的失業が生じるかはまた別の問題)。

 

人間が変わっていく:SNSの例

『機械カニバリズム』に戻る。本書の後半では、機械の関わりを通じて、個々の能力だけではなく、「自己」の捉え方さえ変わってきたという局面が取り上げられる。朝井リョウの『何者』という小説を題材に取り上げ、その作中人物が「スマートフォンという機械と若者が結びついて生じるハイブリッドな存在者」になっており、「他者の視点に首尾よく包摂されなければ自らの視点を確立できない」ような「矛盾に満ちた自己のあり方」をしていると指摘する。FacebookTwitterのユーザーであれば、誰しも思いあたる描写だろう。

常時ネットに接続し、自分について「発信」している現代人を、著者は次のように言い表す。

私たちは機械ではない、決して完全には形式化されない自己をもつのだ。そう呟きながら、私たちは日々せっせと機械に自らの情報を喰らわせている。p.183

私たちは、かけがえのない価値ある自分を感じるために「発信」を続けるのだが、その内容は誰にでも了解可能な、形式化されたデータ(写真、ツイート、いいね)なのだ。機械に処理可能な形式のデータで自分を演出することによって、自分をコントロールしようとする一方で、コントロールする主体としての自分はどこかにちゃんと残ってほしいと思っている。この状況を、著者は「『機械=人間』と『機械≠人間』という二枚舌」だという。機械になりたい、でも自分は絶対に機械じゃない。この矛盾した願いが、「人工知能は人間を超えるか?」というおしゃべりがとまらなくなることの背景にあると、著者は見て取る。

 

「機械 vs 人間」を乗り越える

最終章では、そうした「二枚舌」をやめることを著者は提案する。代わりに示されるのが、「私たちは生きている機械である」という見方である。私は、ここで著者の言わんとしていることを正確に理解できていないが、直感的な拒否感を覚えるのも事実だ。「人間は人間、機械は機械、機械は人間の道具」という建前を捨ててしまったら、「なんでもあり」にならないだろうか。「技術をどう使うべきでしょうか?」という議論の場面で、「明日は私たちの善悪の基準が変わっているかもしれないから、何ともいえませんね」という答えを許したら、あらゆる倫理的議論が無効になってしまわないだろうか*1

ただ、著者の主張が「みんな甘んじてサイボーグになっていきましょう」というのとは違うのは確かだ。

私たちの生は、世界の根拠たる人間ではないものとして生きる「楽しさ」にも開かれている。p.203

将棋がソフトの登場によって変わりつつ事態を楽しむことができるように、これから人間と機械との相互作用のなかで、「美しい」「強い」「賢い」という意味が一つ一つ変わっていく。そのことを直視し、あわよくばそれを肯定的に捉えよう。それが、少なくとも本書のメッセージの一つにはなっている。

技術がいかなる未来をもたらすのかを予測するより前に、変化をもたらすとされる先端技術が浸透するなかで、過去と現在と未来を語る私たち自身の言葉、イメージ、観念が変化しつつあることに目を向けよう。p.125

 

関連記事

…プロ棋士たちのソフトへの戸惑いや期待を、丹念な取材を通して描いた一冊。

 

…AI概念の「今」を切り取ったのが『機械カニバリズム』だとすると、その「出自」から迫ったのが『「人工知能」前夜』。

 

…こちらは「メディア論」の切り口からAIを捉えている。

 

SNSによる自己変容のあたりは、ハラリのいうデータ至上主義(dataism)とかなり通じるところがあるように思った。

 

…テクノロジーによる人間観の変容といえば、吉川浩満さんが思い浮かぶ。「起こりつつあることを正しく静観しよう」というスタンスが、『機械カニバリズム』の著者とも通じるところがあるように感じている。

*1:2018/12/10追記:本記事アップ後、著者の久保明教先生に、twitterでコメントをいただきました。

著者としては、原理的な「なんでもあり」と、具体的な「こう変わってきた」(CMCパート)「こう変わりつつある」(電王戦パート)を共に重視した上で、両者を媒介するものとしての「現在(のなかの未来)」を炙りだすことに主眼をおいてます。倫理もまた。 

https://twitter.com/ponQ/status/1071755899964813312

とても腑に落ちました。原理的には「何でもあり」だからこそ、「変わりつつある現在」を直視しなければいけない。私の感じた“拒否感”は、知らず知らずのうちに安易な思考の枠にとらわれていたことの裏返しなのだと思います。