ダートマス再訪──「人工知能はどこまで社会を変えるのか」イベントレポート｜神田川雙陽

　この夏、一連の奇妙な画像群がインターネットを席巻した。

「話題のディープラーニングを搭載」という売り文句を提げ、「Deep Dream」と名付けられたグーグルのプログラムが吐き出すそれらの画像群は、控えめに言っても目玉と犬と鶏の頭を繋ぎ合わせた不出来なゴシック趣味の絵画としか言いようがなかったが、ネットの一部では「ポスト・インターネットのアートだ」と呼ぶ声もあり、一般層のディープラーニングへの高い期待を感じさせる出来事であった。

　それとほぼ時を同じくして、AIが社会に与えるインパクトについてのいくつかのレポートが提出されると、ここ数年のスティーブン・ホーキングやイーロン・マスクらの発言が引用され、にわかに“人工知能脅威論”がネットの別の領域に漂うようになった。

「僕ははじめて、松尾さんがいかなる抵抗にあっているのかを理解しました。みんなすごく怖いんですね」

　イベントの終盤、質疑応答の途中で登壇者の一人、東浩紀が漏らしたひと言だ。

　その日、質問に立った観客の多くが異なる言葉で、けれど同じ問いを登壇者たちに投げかけた。

　要約すれば「人工知能はディストピアをもたらすのか？」。

　……そう、みんな何故だか怖いのである。人工知能が。もしくはディープラーニングが。

　あるいはそれが載せられるであろう、自動運転車やロボットや、未来のコンピュータが。

　異口同音に同じ質問が繰り返される程度には。

　しかし、人工知能の存在する世界にはそんなに悲観的な未来しか有り得ないのだろうか？

　そして、ディープラーニングがわれわれにもたらす影響はそんなに小さなものだろうか？

　イベントの残り時間を、視線を時計に移して確かめながら、あの長かった“冬”のことをまた思い出していた。

　本レポートが紹介するのは、去る10月20日、ゲンロンカフェにて行われた人工知能学者・松尾豊と哲学者・東浩紀のトークイベント「人工知能はどこまで社会を変えるのか」である。

　このイベントは、今年の理工学書、最大のベストセラーの1つである『人工知能は人間を超えるか』（KADOKAWA/中経出版）のヒットを受けて、著者の松尾を招き開催された。

　工学者と哲学者という文系理系のふたりの“異種格闘技”によって、現在の人工知能研究やディープラーニングそれ自体が持つ哲学的な意味付けについて、いかに議論が深められるのかという期待に、客席も盛り上がりを見せた。これを記している筆者もまた、興奮しつつイベントの開催を待った一人である。

　ゲンロンの発行物に文章を書かせていただくのははじめてのことなので、簡単に自己紹介させていただきたい。筆者は劇作家・舞台音響家を名乗り、舞台を作る活動を行ってきた［★1］。一方で、学部時代に人工知能について学び、現在は大学で知能ロボットの研究に従事する現役の工学研究者でもある。

　大学院時代には、ゲンロンの代表であり今回のイベントの登壇者でもある東浩紀のゼミにも2年在籍し、理系のわりには現代思想まわりの話題にも多少明るいこと、そしてなにより人工知能の登場とそれによる演劇の達成という、文理の“異種格闘技”を心待ちにする気持ちの強さから、今回このレポートを執筆する機会を頂けたのだと思っている。

　途絶えて久しい、かつて極めて密接であったはずの哲学者と工学者の対話が、両者の“子供”たる人工知能という分野において再び実現したことは、双方を学んだ身としても感慨深い。

　さて、イベントの前半は松尾による「人工知能はどこまで社会を変えるのか」の要約とも言うべきプレゼンテーションで、最新の知見が画像や動画といったインタラクティブな要素を交えて魅力的に解説された。

　未読の方に向けて簡単に紹介すれば、同書は現在進行形で社会・産業界にインパクトを与え続けている最新技術、ディープラーニングがいかなるものであるかを、人工知能の歴史とともに説明してゆくというスタイルで書かれている。過去2回あったとされる「AIブーム」において、それぞれの時代に“盛夏”をもたらし熱い視線を浴びた技術の概説とその衰退の理由とを示すことで、いま機械学習やディープラーニングによって第3のAIブームと呼ばれるに至るまでの経緯と、多様に発展してきた技術の要点とを概観できるようになる、いわば今日の人工知能技術の「順路図」や「見取り図」のような書籍である。

　いま3度、人工知能が注目を集めるに至った背景には、過去の研究が過剰なブームと失望を経て、しかし脈々とその技術の枝葉を伸ばし続けてきたことがある。

　では何がその“夏”と“冬”を生んだのか？

「人工知能」という語がはじめて公に登場することになったのは1956年の研究者たちによるサマースクール、通称「ダートマス会議」においてである。 計算機科学の世界に華々しく「人工知能」という名前を刻みつけたその会議は、また同時に、今日における主要な研究課題の多くをすでにその時点で含む、きわめて進歩主義的かつ未来志向なイベントであった。

　アラン・チューリングによって記号論理学による理論的基礎と「チューリング・マシン」という身体を与えられた知能機械は、20世紀の諸学問が文理問わず虜になった“数学による人間理性の大統一”という夢を目指すメンバーに、半ば当然のように加わった。

　しかし、人工知能が辿る歴史は必ずしもそのビジョンそのままに、常に栄光に満ちていたわけではなかった。ダートマス会議から今日までの60年の間に、人工知能学には過去2度の“冬”と呼ばれる時代があった。諸説あるが、おおむね1度目は70年代、2度目は90年代以降のことである。いずれの場合も、産業界から人工知能に対する過度な期待がかけられ、潤沢な研究予算が投入された“夏”の後の時期であり、過大な期待の裏返しとしての失望がもたらした試練の時期である。

　最初のブームは「推論」と「探索」、すなわち場合分けを繰り返すことでプランニングを行う手法がもたらした。しかし組み合わせの候補が指数的に増加してしまうことと、非常に限定された条件下でしか解を出せなかったことが失望を招き“冬”を迎えることになった。

　続く第2のブームは「知識」を与えること、すなわち専門的な知識などをコンピュータに扱いやすい形式で記述しておくことによって、カウンセラーや医師などの業務を担えるのではないかと期待された。しかし、この方法もまたフレーム問題（ものごとを考える上でどの程度の事項を考慮に入れるか？　という問題）やシンボルグラウンディング問題（記号をその意味と結びつけることができないという問題）と呼ばれる課題にぶつかることで夢物語となってしまった。

　筆者が人工知能学を志したゼロ年代前半は、まさにこの第2のブーム後の“冬”のただ中であり、コンピュータやインターネットの爆発的成長に沸く情報工学や、ASIMOの登場や、愛・地球博で盛り上がりを見せるロボット工学の影で、その「魂の座」たるべき人工知能研究が被った不遇を直接目撃した世代だ。

　人工知能による表現活動のためには、記号論・意味論的な理解を獲得することが不可欠である。 たとえば筆者の悲願でもある“人工知能による演劇”は、ある程度制御された環境下とはいえフレーム問題に直面せざるを得ないし、あらゆる表現活動と同じく、動作に意味論的な理解を伴わなければそれは（語源どおりの）デウス・エクス・マキナに過ぎない。

　それらの根源的な問題に解決策を見いだせないまま、実用する上で問題を迂回する方法にリソースが割かれた時代でもあった。

　同時に、機械学習による新たな萌芽が見えつつあった時期ではあったが、その夜明け前の寒々しさは10年以上が経った今でも骨身に染みてよく覚えている。

　だからこそ、今のこの第3のブームは感慨も深く、またそれをもたらしたディープラーニングの衝撃もとりわけ大きい。そして同時に「このブームの果てに、また第3の冬が来るのではないか？」という危惧もまた、頭をもたげる。

　その疑問に松尾は「ディープラーニングはAIの50年来のブレイクスルーだと思う」と希望的な発言で応えた。

　東の発言を借りれば「現代思想で言うゲーデルの問題であるフレーム問題」や「ソシュールの問題であるシンボルグラウンディング問題」といった過去の人工知能学における問題群に対し、松尾はディープラーニングが持つ新しくきわめて強力な特徴である「AIが自分で特徴量を発見できるようになったこと」が突破口を開くであろうと言う。

　前述のとおり、人工知能はこれまで、自分自身で外界を認識し、記号的な概念を形成し、それを活用する術を持たなかった。しかし今、常に科学者たちの楽観と「ヒトと同じ知能を持つ機械」の夢を冷徹に破り続けてきた「概念形成」の壁を突破しつつあると言うのである。

　自律的に概念を“発見”し獲得するディープラーニングを基礎に置くことで、目的を果たすために、結局は人間が必要な情報を与えることを必要とし、マンパワーの限界によって封殺されてきたこれまでのAIは、もう一度進化のなぞり直しをすると松尾は言う。

　いまはまだ画像など、少ない種類の情報しか扱えないディープラーニングだが、いずれ複数の入力を統合して扱えるようになり、因果を認識し、シニフィアンとシニフィエを結びつけることもできるようになるだろう。その果てに意味を伴った言語行為への理解を獲得するようになれば、人間に近い知性を手に入れることもできるようになるかもしれないというビジョンを提示して、前半のトークは終了した。

　ディープラーニングを含めた人工知能研究の概況に触れた前半に対し、後半では哲学と人工知能研究のこれからの関係について議論が白熱した。

 

　東がまず注目したのは、ディープラーニングにロバスト性（外乱から受ける影響への頑健性）を持たせるため、学習データにあらかじめノイズを混ぜ込んだものを使用するという手法である。たとえば気象の予測エンジンを作成する際の学習データに、「事実あった」過去の観測データに、適度な“嘘”を混ぜ込んだものを与えることで、最終的な予測モデルの有用性が高まるというアイディアだ。

　ここに東は「虚構の想像力」を見たという。「実際の過去」から少しだけズレた「ありえたかもしれない過去」を自身に取り込むことは、すなわち可能世界を想像することであり、現代思想の“固有名問題”にもつながるというのだ。環境によらない不変量を見つけるというのがディープラーニングの目的であるならば、そこから見出される特徴量とは経験の外側に位置する“本質”そのものであり、イデアではないか、と。

　この話題は換言すれば、「人工知能がごっこ遊びをできるようになる」ということでもある。人間は対話において、「もし～であるなら」というテンポラリな仮定を複雑な入れ子構造にしながらコミュニケーションを展開する。頭の中に“今とは違う”状況を構築して、その中にいる自分をイメージしながら話す、という誰もができることが、人工知能にも可能になるということだ。

　そしてまた、この能力は（狭い意味での）演劇の本質的な所作でもある。「状況のエミュレーションを俳優間で共有し、現実にオーバーレイされた仮想上の状況下でそれに則った行動をすること」というのが“演技”を最も無味乾燥に表現した説明だろう。

　つまりifをifとして認識し行動できることは、「演劇できる機械」の必要十分条件といえる。

　このことは、“人工知能による演劇”を悲願とする筆者にとって喜ばしい話題であるのはもちろんであるが、同様に、ifを内包するディープラーニングは人文系学問にとって大いなる実験の道具・環境となりうるという意味でもある。

　対談の話題はその新たな環境がもたらすビジョンへと発展した。

　たとえばそれは、人間とは異なる認知を持つ知能が作れるかもしれない可能性であり、あらゆる「ヒトでない知性」が持ちうるオルタナティブとしての可能性だ。

　一般○○学と名のついた学問は、あくまでも現状の人間がたまたま持ち得た唯一のケースに対して考察しているに過ぎない。たとえば言語であれば、人間が唯一持ちえた言語以外を実験で確かめられるようになって、はじめて本当に一般言語学になり、「論理的に考えられる言語の幅とは何か」という問いを立てられるようになるというのである。

　ディープラーニングがその段階まで発展すれば、既存の言語と言語の関係も当然変化する。その過程で自動翻訳が飛躍的に進歩する可能性も高いだろう。

　松尾はオートエンコーダの生成モデルと記号を結びつければ、「文→イメージ→（別の言語の）文」という一連の翻訳プロセスの生成が2030年にもできるのではないかと予測する。

「世界はまだまだ言語によって分断されている。たとえば「イスラム国」という現象は、イスラムの中では極めて思想史的な背景があるけれど、それは日本語では読むことができない。そういった出来事すべてにおいてコンテクストが共有できるようになれば、地球文明に対するインパクトは計り知れない」と、東は期待を寄せる。

「実用上完全な自動翻訳はバベルの塔以来の出来事。そのインパクトはすさまじいものであろう」、と。

　東と松尾はそこからさらに一歩踏み込む形で、ディープラーニングという概念の登場によって、哲学と人工知能の言葉が通訳可能となることに期待を示した。

　先ほども触れたとおり、20世紀の初頭に諸学問に記号論理学を導入しようとする動きが起こった。工学におけるその動きはダートマス会議で人工知能を花開かせ、人文系学問にとってのその動きは構造主義として後に多くの発展を遂げたが、現在の状況から鑑みるに人文系においてのこの野心的な試みは完全に上手くいったとは言えない。その理由として東は、当時選択した論理学の道具立てがあまりにも単純で荒かったことを挙げる。しかし仮に、ディープラーニングの道具立てを使えば、もっと柔軟にポストモダニズムくらいまでの哲学が解釈できるようになるはずと語る。

　議論の終わり、これまでのシンギュラリティ像、人工知能像、あるいはポスト・ヒューマン像は「神を作る行為」、すなわち人間を超える知能の研究の結果であると捉えられてきた、と東は総括する。言い換えれば、現行人類の知的営為を“相似形で”超越してゆくという前提に立っていたのであると。

　しかし、松尾はたとえばヒトと同様に3次元空間に最適化されたAI（人型ロボットに搭載されるのはきっとこのタイプだろう）の知能は、制約条件から、結局はヒトと同じようなものになる可能性があると指摘する。

　ただしそれは悲観的なビジョンではない。「同じレベルにまで到達できる」ということと「それ以上に進歩できる」ということは等価だからだ。

　少なく見積もっても、ヒトと同等の知能を、より高速に、より多量に動員できることによる量的なインパクトは小さいはずはない。

　そして同時に、全く異なった（たとえば100次元の制約条件を持つ）AIはヒトには予測不可能なことでも自明なこととするような知能を獲得するに至るかもしれない。そうであれば、AIは質的な意味でもヒトを大きく凌駕することになるだろう。

　もっとも、その結果生まれたAIが生み落とす知的生産を、われわれ人類は理解できるとは限らないし、おそらくは理解不能なものになるだろう。だとしても、「今現在でも、われわれはわれわれの使っているものすべての原理を把握してはいないので、その意味では変わらないのでは」と松尾は語った。

　そんな22世紀に、人類は生きているのかもしれない。

　すべての未来予測が困難であるように、そこまでの長いタイムスパンをイメージすることは難しい。

　それに、そんな先のことを考えなくとも、われわれは大きな変革を目の前にしている可能性が大きいのだ。

　ディープラーニングのもたらす哲学と工学・数学の再接近が、かつての構造主義の現在的なアップデートなのか、あるいは全く異なったものであるのか、現在のところは想像してみることすら叶わない。

　しかしひとつ確かなことは、いまこの瞬間が、人類史上においてはじめて、人間が“概念”というものに指先で触れることができたタイミングであるということである。

　表現活動ひとつに限っても、このことのもたらす影響は計り知れない。“概念”を持つ知能機械の俳優が舞台上で人間と共演する未来像が近づくことはもちろん、人間自身の“表現”や“芸術”概念そのものがアップデートされる可能性すら秘めている。

　それはDeep Dreamが生む犬の画像のようなチャチなものでは決してない。

　トークの中で東が実用的な自動翻訳の実現について「21世紀の半ばにあるなら、それを見て死にたい」と発言したのと同じように、どうせなら知能機械と人間が共演する舞台を観てから死にたいものである。

　ダートマスから始まった人工知能学者たちの楽観的なエクソダスは、その期待に反して長い、いくつかの厳しい冬を通過する旅となった。

　その果てにディープラーニングというブレイクスルーを迎えた彼らが、今度こそ約束の地に辿りつけたのか、それはまだ分からない。

　60年ぶりに再訪するダートマスが、その場所であろうとなかろうと、いまここから起こることはわれわれ一人ひとりにとって無関係ではいられない何かではあるだろう。そのように思える対話だった。