読書メモ：AI社会の歩き方（江間有沙 著）…AIと社会について、誰が・どこで・何を話しているのか

AI社会の歩き方―人工知能とどう付き合うか (DOJIN選書)

本ブログの2016年末の記事「人工知能をトランスサイエンス問題として考えてみる」では、こんなことを書いた。

ある程度情報を仕入れて〔AI〕ブームの実態について大体わかった次の段階として、誰しも考えるのは、「で、自分はどうする？」ということだと思う。

• AI技術の進化でもたらされる（らしい）社会の変化に、自分はどう適応していけばいいのか？
• AI技術を、自分の生活・仕事にどう取り入れればよいのか？　
• AI技術によって自分はどんな不利益を被る可能性があって、それをどう回避すればよいのか？

こういうことを、各自で考えることが求められる時代になっている。

私たちは、AIが（良しにつけ悪しきにつけ）変えてしまうという未来に対して、どんな心構えでいればいいのか？

AI技術が自分たちの仕事や生活のなかに入ってくるとき、その受益者である私たちは何を知り、何を考え、どう行動すればよいのかを考えたいと思ったのだった。

それから人工知能について語られたこと

…それから2年と少し。

人工知能については、とても多くのことが語られた。歴史学、人類学、哲学などなど、各学問分野から、面白く重要な議論が多数出てきた。

けれど、大まかに見れば、多くの人の耳に入ったのは「AIを推進・導入しないとやばい」というトーンの言説ではなかっただろうか。企業レベルでは「AI活用できない会社は生き残れない」、国のレベルでも「日本がAI分野で後れをとることは許されない（だからAI人材が〇万人必要！）」といったことが盛んに言われ、何となくの共通認識になった感じもある。

そして、実際にそれは正しい（と思う）。個人・会社・国（さらには世界？）の各レベルで、現状で打開できない問題に対して「AI」が特効薬になるというのは、たぶんそのとおりだ。技術はどんどん開発されるべきだし、社会に実装されていくべきだ。

でも、研究と導入を推進するだけで、みんなが幸せになるかというと、それは違う。間違いなく落とし穴がある。たとえば、キャシー・オニール著『あなたを支配し、社会を破壊する、AI・ビッグデータ』（→読書メモ）は、「人工知能」の名のもとで実装されている諸技術が、現実に社会を蝕んでいるショッキングな事例を多数報告していた。

人工知能技術の可能性とその危険性。

危険性を抑止して、可能性を享受できるようにするためには、みんなで知恵を出す必要がある。そして、そのための議論は現に世界中で行われている。

けれど実際にどんなことが議論されているのか知る機会は少ない。ときどき学会や官庁から発表される「ガイドライン」に触れることはあっても、そこに至るプロセスや、どの国で、どの主体が、何を議論しているのかの全体像を把握している人は（個別の議論の当事者であったとしても）ほとんどいないのではないかと思う。

人工知能と社会について、誰が、どこで、何を話し合っているのか。

それを俯瞰することのできる（たぶん）初めての書籍が、本書『AI社会の歩き方』だ。

著者は日本におけるこの議論に早くから関わり、その中心を担ってきたSTS（科学技術社会論）研究者。この著者以外には絶対に書けない一冊となっている。

本書の構成

本書では、これまで著者が見てきたさまざまな議論をもとに、今、どのような立場の人がどんなことを考えているのかが描写されていく。各章では、異なる視点が取り上げられる。

※下記のまとめに網羅性はまったくありません。個人的に印象に残った内容のみ、選んで記載しています。

第1章は、人工知能の技術開発をする視点からの議論が紹介されていく。いま人工知能と呼ばれている技術とはどんなものか、その社会実装に当たって課題視されている「公平性」や「説明可能性」とは何か。また、深層学習などの既存技術だけでなく「まだ見ぬ技術」を追求する科学研究の一分野としての側面が、「人工知能」にはあることが指摘される。

第2章では、人工知能のルール作りをする人々・団体の動きが概観される。各国、各機関、学会は、人工知能技術をどう推進あるいは規制しようとしているのか。人工知能の「倫理」をめぐる議論を「研究（者）倫理」「人工知能の倫理」「倫理的な人工知能」の三つに分けて整理する。論点自体は出尽くしていて、あとはどの団体（国、学会、企業グループ、NGO）が主導権をとってルール作りをしていくか、という段階に入っているという。「倫理」をめぐっては、（予想されるように）開発者サイドから「『倫理なんか考えていたら負けだ』という声」が上がり、「何か問題が起きたら事後的に対応をすればよい」「最初に技術開発した企業がひとり勝ちしてしまう（Winner gets all）社会では、法や倫理を考えずに、技術開発をしていくのが正解だとする考え方」が出てくる（p.80）。しかし、推進したい側にとってこそ、倫理を考えるメリットがある。

研究者や企業という中での自主的な規範や規律は、自分たちの活動や行動を守るためにも必要になるのです。また、原則や理念を打ち出すのは、対外的に“信頼”を得るためでもあります。技術を開発、運用する人や組織が“信頼”できるしくみのほうが、新しい技術が出てくるたびに一つひとつ検証をする必要がなく負荷が軽くなります。p.86

また、日本におけるAI技術のガバナンス戦略の課題として、日本の企業からは「欧米企業のような倫理的な観点に対するベストプラクティスが必要だという切迫感」を感じられず、それならアカデミアが本来その視点を提供すべきところ、「日本の大学も現在はイノベーションのみの議論に飲み込まれている」ように見えることが指摘される（p.118-119）。

第3章では、人工知能技術をユーザとして使う側、あるいは社会の一員としてその影響を被る側の視点から見た議論がまとめられている。たとえば中国では「自動運転用の都市を丸ごとつくってしまう計画」がある。自動運転車を走らせることが最終目的ならそれが合理的だが、本当は「どんな街に人が住みたいか」という議論が先にくるべきだろう。

人工知能が入ってきたから働き方がよくなる、あるいは悪くなるという「技術決定論」的な捉え方ではなく、新しいものが入ってきたときにこそ、働き方や社会制度、人間関係、専門家の役割などを見直すきっかけになります。p.154

第4章は、法学や哲学・倫理学の専門家が議論していることが紹介される。プライバシー、著作権、技術を使う権利／使わない権利をどう担保するか。また「トロッコ問題」に象徴される人工知能による倫理的判断をどう考えるか。人工知能が人類の存続を脅かすような「生存リスク」（existential risk）をどう考え、どう備えるかといったことが、論点になっている。

最後の第5章では、科学技術社会論（STS）の研究者としての著者の立場と役割について述べられている。著者のやってきたこと、それは、とにかく話し合いの場をつくることだった。

STSには科学コミュニケーションに関する実践の蓄えがあり、今までも原子力や遺伝子組換え、ナノテクノロジーなどの技術に関して場づくりが行われてきました。また、「なぜ」「どうして」「どのテーマで」「誰を」つなぐのかに関する理論的な蓄積もあります。p.213

「媒介の専門家、異なる境界を渡り歩き拡張する人」を、「バウンダリースパナー」（Boundary Spanner）と呼ぶらしい。著者は、人工知能学会の「倫理委員会」や、総務省の「AIネットワーク化検討会議」をはじめとする種々の会議に参加することで、あるいは一般人を交えたワークショップの開催などを通して、その役目をはたしてきた。そしてそれは、（容易に想像できるように）たいへんな仕事だ。

多様性の中に身を置くというのは、新しいアイディアやきっかけを得られるという可能性があるものの、実際は“非常につらくしんどい”ことでもあります。p.216

「安心して炎上できる場所」、つまり「互いの価値を尊重し対話する姿勢をもつ人々によって“賛否両論あるかもしれないけれど面白そうなネタ”を議論できる場」（p.217）をつくりたい。なお、当然ながら著者が行う「場づくり」にも著者自身のバイアスが含まれており、それを反省することの重要性については何度も言及されている。

 感想1：「技術と社会」をめぐる対話の難しさ

以上の5章が、著者の描いた「『人工知能と社会』に関する地図」（p.1）ということになる。

多種多用な人々・団体（企業グループ・国の機関・学会・NPO・情報系研究者・人文社会科学系研究者・etc）が、これほど数多くの議論の場を作っていることがまずは驚きだった。

そして、その対話は本当に難しいものだろうと想像する。

AI研究者・開発者からしたら、AI技術に警鐘を鳴らす側の人（人文社会科学系研究者など）は「イノベーションの足をひっぱる邪魔者」と映るかもしれないし、逆に後者からしたら前者は「研究を進めたいばかりで社会への影響を考えていない」「自分たちだけAI技術の恩恵にあずかろうとしている」などと映ってもおかしくない。

本書中、各節冒頭には「ショートストーリー」が挿入されている。主人公の「ミミ」がさまざまな動物たちと出会うお話である。それぞれのキャラクターが現実の何を表しているのか、正確にはくみ取り切れなかったが、「かみ合わない議論」の現場で悩み奮闘してきた著者、それでいて、その状況をどこか楽しんでもいる著者の実感が、何となく伝わってきた。

感想2：AIブームは終わっても議論は続く

個人的には、「人工知能」という言葉を使うのは、もうやめたほうがいいと思ってきた。定義があいまいすぎるし、使う人が勝手に自分の思いを投影できてしまうので、コミュニケーションの邪魔になっていると思うからだ。

しかし、本書を読んで考え直した。というのも、すでに「人工知能」という言葉を使って、大事な議論が始まっている。自動運転、画像診断、与信管理システム等々、どんなラベルをつけるかとは別に、それらの技術を社会でどう使っていくかについての議論は必要だ。たまたま「人工知能（AI）」というラベルがそこについているのなら、私たちはずっとAIについて語り続けなければいけないのだろう（第３次ブームが終わったとしても！）*1。

〔STS研究者が社会への働きかけの一環として行う議論では〕暫定的に論点を整理して議論を一度「閉じて」、フィードバックを得るためにふたたび「開いて」といったプロセスが踏まれます。 p.8

膨大な議論のなかに身を置いてきた著者は、本書の執筆というかたちで、一度議論を「閉じた」。『AI社会の歩き方』を手にした私たちは、ここから議論を開いていかないといけない。

*1:ただし、注意として、「人工知能と社会」にまつわる重要な議論と、「人工知能は人を超えるか」といった人間の自己イメージにまつわる“おしゃべり”とは区別する必要があると思う。後者が不毛な理由は『機械カニバリズム』の読書メモに書いた。