機械と人間の根本的な違い

新井　人工知能を「わかる」というところへ、いかに接地させるか。どれだけ遡って考えても、なかなか答えが出てこないです。最適化のような事柄はいいんですよ。「目標があって、これが正しい」というのが決まっている事柄は、勾配法(※1)などで目的まで持っていけますから。こういう最小原理みたいなものはいいんです。

でも、数値の最適化でないようなものに関しては、一体どうすればいいか。例えば「正義」の問題があります。テロや犯罪が起こった。そのときに誰が、どう行動すべきか。こうした正義の問題は、統計的に滅多にないことなので、「どうすべきか」という答えは、なかなかわかり辛いことだと思います。

長尾　そこは難しいところですね。ある種の「価値観」をコンピュータプログラムに入れたとしても、その価値観がオールマイティーなのかわかりません。客観的世界の話で済むのかどうか。人間の場合、厳密に言えば「客観的世界というのがない」わけなので。

新井　そうなんですよね。厳密に言うと客観的世界に人間は生きていない。

長尾　やっぱりそこのところが、ロボットというか、機械と人間で根本的に違うところです。

新井　「赤ちゃんみたいなロボットを作り、センシングができて、重力の環境下で、みんなが語りかけるような中で育ててみれば人間と同じになる」というご意見を持たれる方もいらっしゃいます。でも、それによって個体発生はシミュレートできるかもしれないけれど、系統発生(※2)はどう扱えばいいのかと私は問いたいです。

タンパク質からミトコンドリアになり、類人猿になって、ホモサピエンスになって、今日この高いビルを作った文明社会の中に私たちはいます。そこの「ずっと長い記憶、何世代、何億年、何十億年と掛かってきたこの記憶、埋め込まれている記憶」に関してどうしたらいいのかが全然わからないんですよね。

長尾　今後のロボットの世界でやるべきことは、人間が歴史的にずっと蓄積してきた文明のあらゆる情報をコンピュータの中に入れる方法を探り、それらをうまく利用する方法を考えることではないでしょうか。それを実現しないとどうにもならないところにまで来ているように思えるのです。

いわゆる国語辞典とか、百科事典のような単項目の辞書を作るだけではなく、項目ごとの相互関係性、言うなればシソーラスであるとか、「何と何との関係はどうなっているか」という関係性までを入れた全世界の知識というものを、いかにして構築していけるのか。そういう大問題にぶち当たっていると思うのです。それが人間の手ではなかなか記述できないから、自動的に作るしかないわけなんですが……。

新井　自動的に作られたものが、なぜ正しいかがわからないというのも難しいところですよね。

求められる新しい数学モデル

新井　現在の第三次AIブームと言われている現象に対し、私は不安に思うところがあります。それは、数学で提供できている言語が、今のところは論理と統計と確率しかないということです。ホモトピー(※3)というまだ使えていない分野はあるのでもう少し可能性はあるかとは思うのですが、具体的に今すぐに使えるものはその辺りまでなので。

第二次AIブームまでで「論理」は使い尽くしました。そのとき積み残したものを第三次AIブームでこれから「統計と確率」「ビッグデータ」でやり尽くすでしょう。そこでさらに積み残したものは、数学がもう一歩前進して、新しい「言語」を提供しない限り、打ち手がなくなってしまうのではないかと不安です。

長尾　今後は強力な数学モデルがないと人工知能は発展していかないですよね。そこが大問題です。

新井　第二次AIブームのとき、第五世代コンピュータが失敗したのは大変残念でしたが、あの時は長尾先生がいらしたので、すでに90年代に向けて統計と確率という「芽」が出ていました。

今回の第三次AIブームの後にも、必ず課題が残ります。その課題に対して「意味」の解釈がないと乗り越えられないとしたとき、今の数学にして差し上げられることが極めて限定的ではないか、というのが率直な気持ちです。

長尾　世界中の知識というのが何百万かあるとして、その知識というのは相互関係で結び付いているわけです。さらにその相互関係の枝にも何百種類かあって、そういう世界で知識というものが壮大で複雑なネットワーク世界を構成しています。

そういうものの全部は人間一人の頭の中には入らないけれども、人間はそれらをうまく使って質問応答をするとか、判断をするとかしている。そういった複雑な、意味を担うブランチを持った立体構造みたいなものを数学的にマニピュレーションできるような、そういう数学理論は生まれないのでしょうか。トポロジー(※4)だと単純化され過ぎてしまうかもしれませんが。

新井　今のお話から想像することが2つあります。1つ目は現実的な話ですが、それだけ大きなネットワーク構造を計算しようと思うと、ものすごくエネルギーが掛かるはずですよね。しかし、脳はエネルギーを使わずになぜそれができているのか。仮にその数理モデルを作ったとしても、それが正しい数理モデルと言えるのかというのがまず1点。

長尾　うん、うん。

新井　2つ目は、その複雑なネットワーク構造の計算を、脳がそれほどエネルギーを掛けずに行うことができる要因は、ホモトピー系ではないかと思うところがあります。きっと先生も感じていらっしゃったと思うのですが、完全一致なものは怖くないのです。「似ているとは何か」という数量モデルが一番怖い、というか難しい。多義的ですし。

例えば、子どもが絵本でキリンを見て、その後、動物園に行って初めて本物のキリンを見たときに「あ、キリンだ！」と言えるのは、本当に不思議なことです。それをネットワークで数理モデルにするにはどうすればいいのかが今はわからない。

長尾　まったくおっしゃる通りで、「似ている」というのは、脳のニューラルネットワークにおける基本的な機能ではないかと思っているんですよ。類似性ということを基本に置いて、すべての人間における頭の働きを説明できる可能性があるのではないか。完全一致や論理的推論などよりも、類似性を見出せることこそ人間の頭脳の根本的な働きではないかと思います。私は死ぬまでに『類似性とは何か』という本を書きたいです。

新井　ぜひ読みたいです。私自身も「忘れる」と「似ている」、この2つが脳で重要なことのような気がしています。真面目に本気でプロジェクトをやった人は、絶対に「“似ている問題”というのが本質だ」ということに気付いているはずです。

数学をやっていないか、プロジェクトを不真面目にやっている人は、「数理モデルで『似ている』というのは処理できます、ベクトルで測ればいいんですよ」などど安易におっしゃるんですね。でも“似ている問題”というのはプロジェクトをやったり数学をやったりすると必ず最後に戻ってくる一番大きな問題です。

長尾　数学でもそうですか。

新井　構造が同じという話です。数学で構造が同じというのは、ホモトピーとか、アイソモルフィック(※5)のような形で処理したり、分類したりしますよね。でも、人間はそのずっと前に「分類しよう」と思う時点があるわけです。「それが形になる『前に』なぜそう思えるのか」がわからない。

長尾　その“似てさ加減”には、言葉の表現の“似てさ加減”とか、『AI vs. 教科書が読めない子どもたち』にもありますが、猫とか犬の“似てさ加減”とか、いろんなものがある。それらを個別で考えると、多分40～50くらいの“似てさ加減”の基準があれば、かなりいろいろな現象が説明できるのではないかと以前から考えていました。それをコンピュータの世界に何とかぶち込めないか、と大それたことを空想しています。

新井　長尾先生と話していて、はっとするのは、「40～50」という具体的な数字がパッと出てくるところですね。それほど根拠があっておっしゃったわけではなく「人の持つ“似てさ加減”はこのくらいの数ではないか」という直観に基づくものだと思います。そこが長尾先生のお人柄としてすごくユニークです。普通、40～50などと思い切って言えないところだと思います。

長尾　言葉における“似てさ”と、画像における“似てさ”では少し尺度が違いますが、そうした違うドメインにおける“似てさ加減”を考えていくと、数十程度でいろいろな現象や社会の解釈はできるのではないかということです。

その“似てさ加減”の根本にあるものとは何かは、さらに考えなければいけないと思っているところです。でも、なかなかそこまでは考える力がありません。それが数学の世界でモデルとして作られると非常に面白いし、強力なものになるでしょうね、きっと。

機械の方だけ見ていてはいけない

新井　先ほど、先生から「東ロボを5年で1回凍結したのは大変残念」とおっしゃっていただきましたが、実は「人間が犯すエラーを分析しないと、この先には進めないだろう」と思ったのです。今までAIがベンチマーキングをするとき、教師データは常に「正しい」と思ってベンチマーキングしてきましたよね。でも、教師データは本当に正しいのか。「人間がこんなにエラーを起こすのはなぜだろう」と思ったのです。

そこで「リーディングスキルテスト」を独自に開発して始めました。このテストによって、1〜2文程度の短い文章を人に見せたとき、意外に人が「読めていない」という事実がわかりました。「人はどういったエラーを起こすか」「どれくらいの能力の人はどういうエラーを起こすか」ということの方をまず解明しないと、人工知能の研究を前に進められないと確信したんです。

長尾　なるほどね。

新井　例えば「Alexは男性にも女性にも使われる名前で、女性の名Alexandraの愛称でもあるが、男性の名Alexanderの愛称でもある。Alexandraの愛称は○○である」という短文をテストで出しました。この○○に当てはまるのは「Alex」と決まっているのに、「女性」と答えた回答者が半分ほどいたという結果になりました。つまり、構文解析ができないという人が半分もいる。

今のAIなら、この問題は構文解析で間違いなく解けると思うのですが「なぜ人は半分も間違えるのだろう」と思ったのですね。「こんな短い文を構文解析できないのに、なぜ『読めている』と本人は思い、人と話せているのか」と。単に「読めないからダメだ」と言いたいのではなくて、この人たちがそれなりに支障なく社会生活を送れている。「このように人間というものはエラーを起こすのに、なんとレジリエント(※6)に生きているのだろう」と。

長尾　それは非常に不思議なことです。

新井　人間のエラーの方を見ず、工学的にAIだけを研究する方法論もあったと思います。ですが、私は「人間のモデルを作るのであれば、人間のエラーを一度しっかり見てみよう」と思いました。

それが『AI vs.教科書が読めない子どもたち』という本の後半に書いたことです。人と機械が協調する社会を作るうえでも、また「機械とは何か」「人間とは何か」を極めていくうえでも、機械の方だけを見ていては……。

長尾　ダメですよね。心理学的に人間の心の動きというか、その時々の心の動き、あるいは対話をしていたときの意図。そういうものがどういう状態にあるからトンチンカンな答えを出すとか、もしくは正しい答えを出すとか、対話が成り立っているとかがあります。

人間の心の動きと、大脳皮質における論理的推論の結果で反応するというのは、実はものすごく複雑に絡んでいる。そういうところの解釈をもっとうまくやらないと結果が出て来ないと思うのです。

新井　脳科学として非侵襲な形で光トポ(※7)とかMRIとかで取る方法もありますが、それだけだと観察としても、測定としても、おそらくは足りません。文のほうを自然言語処理的に分析したらわかるかというと、それでも足りない。問題文の表層的な特徴量からリーディングスキルテストの問題の難易度を予測しようとしたのですが当たらない。なぜか全員が解ける問題がある一方で、半分の人しか解けない問題もあって、その差が生じる理由は何なのかが、よくわからなかったりするのです。

そういうエラーをまず観測する、それが一つの重要な方法だと自分では思っています。リーディングスキルテストというのは、読解力テストとして社会還元もするのですけれど、実は「人間を観察する高度な装置でもある」と捉えているのです。

長尾　なるほど、そうでしょうね。そこのところが一番キーポイントだと思いますよ。

情報科学者は何をすべきか？

新井　こういうことを言ってわかっていただけるのは、長尾先生くらいしかいません。誰もなかなか意図を理解してくれないんですね（笑）。表面的な言葉の解釈とか、あるいは機械翻訳などはディープラーニングで学習させればさせるほど精密にするとはできますが、言語はそれだけではないですから。

長尾　言語は感情も表現するし、相手が言ったことに対するレスポンスも担っています。その仕方も、その人のその時におけるメンタリティーとかいろんなことによって違う。

そういうトータルな頭脳の働き、つまり「理知的な部分」と「意味の部分」がある。意味の部分になってくると、頭の中だけじゃなくて、その時の周囲状況にも拠ります。その意味を支えているところに、やはり心というか、その人の頭脳のもっと深層的なもの、さらにその時のメンタリティー、テンデンシーというものがある。

理知的な部分、意味の部分、心の部分。この3つの層がうまくかみ合って動いている、そういうモデルをもってくる必要があるのではないかと思っています。だけど、これはなかなか難しい。

新井　ええ、難しいです。哲学としてモデルを考えることは可能かもしれないのですが、数理モデルとして作るというのがなかなか難しいんですね。

長尾　哲学として考えた場合、フッサール(※8)の現象学でも、まだ頭脳の上の方、論理的構造の部分から「意味」の世界にちょっと入ったくらいのところにある心の動き、心とか魂と言われているようなものが頭脳全体を大所高所から支配しているというモデルは構築されていません。そういうものをうまく検討する必要があると思います。

新井　今の若い人というのは、もうTensorFlow(※9)のような便利なツールが最初からあって「それでPythonでこう書けば、こうディープラーニングできます」という環境がありますので、フッサールとかラッセルとか誰も知らないんですよ。

長尾　いちいち考えなくてもいいですからね。

新井　ええ。でも、本当はデカルトから始まる話なので、デカルトの『方法序説』とホッブスの『リバイアサン』は読んでもらいたいです。そこから、ずーっと同じことを何周にも渡ってやっているのですから。

長尾　私はもう実験とか、コンピュータをいじってプログラムするということはできなくなっているので、情報科学の分野の人にどのように貢献できるかを考えています。そこでプラトンやアリストテレス以来の西洋哲学の辿ってきた道を見てみると、その中に情報科学的な事柄に携わる人がちゃんと知っていなければいけないことが結構、含まれているんですね。

情報科学をやる人に対して「過去の人類の知能の蓄積として、哲学の世界ではこういうことが論じられてきた。そのあるところは情報科学の課題だとこの辺りに当たるのではないか」と、そういう勉強を皆さんにしてもらいたいな、と思っています。

科学技術の発展は独自に連綿と流れてきたことは事実ですが、それに類する思想的なことは、哲学の人たちも同時によく考えてきているわけです。あるいは心理学です。それらを踏まえ、工学者が「何をやらなければならないか」をもっと考える必要があるんじゃないかと思うんですね。

新井　素晴らしい結びのお言葉をいただきました。今日は本当にありがとうございました。