AIの限界を知りながら、ビッグピクチャーを描くことに意味がある　技術に翻弄されないための「人工知能の哲学」

人工知能は「食べ物」がわかるのか？

森本佑紀氏（以下、森本）：それでは、雄馬さんのお話を聞いて、みなさんが感じられたことや疑問に思われたことがあれば拾っていきたいと思います。こういうときに手を上げてもらえるとうれしいのですが。

松田雄馬氏（以下、松田）：わかる、わかるよ（笑）。

森本：あとでありがとうございますと言うので、なにか質問などを放り投げてくれる人はいますか？

（会場で6歳のこどもが挙手）

森本：あ！　ありがとうございます。あれ？　質問してくれるの？　……質問してくれる？　どんな質問してくれる？

松田：お願いしまーす。

森本：言ってみよう！

質問者1：食べ物。

森本：食べ物！

松田：いやあ、わかるわー（笑）。

（会場笑）

松田：まさにこれですよ。人工知能はなぜ椅子に座れないのかというと、椅子がわからないからなんですよね。人工知能だって食べ物を食べたことがなかったら、それが食べ物かどうかもわかんない。美味しいかどうかもわかんない。そういうことじゃないかな。

人工知能の「モノの覚え方」

森本：まさに今「食べ物」というワードが出てきましたが、たぶんこれって人工知能のプログラミングだったら拾えないと思うんですよ。それを、雄馬さんは食べ物だけ出てきても、なんか大喜利みたいになるという感じで（笑）。それを意味付けするのが、人間の良いところだということですよね。

実は書籍にもそうしたお話があります。折角なので少しだけ付け足して椅子のお話をお願いします。

松田：例えば、今の人工知能がどうやって物を認識しているのかということを、少しだけご説明したいと思います。人工知能がなにかを覚えるためには、やり方は2つあるんですよ。

1つは、例えばこの椅子を認識させようとするなら、「定義する」というやり方があります。「足が4本ある」「背もたれがある」といったように。そうするとなにが起こるというと、必ず例外が出てきます。当然、背もたれがない椅子もありますよねということです。こんなふうに例外がいっぱい出てくるので、これをなんとかしないといけない。

それを解決するのが、ディープラーニング（深層学習）といわれる手法なんですね。どんな方法かというのをすごく簡単に説明すると、データをすごくたくさん与えるんですよ。いろんな椅子の写真を覚えさせます。

そうすると、あらゆる椅子に共通する特徴を機械が自動的に認識してくれるということです。めっちゃ画期的な方法のように聞こえるじゃないですか。確かに技術的にはすごく画期的なのですが、それで椅子がわかるようになるかというと、すでに覚えさせた椅子はわかるけれども、そうじゃない椅子は当然わからない。

身体で感じる人間の判断力

森本：じゃあ人間はというと、例えば山道を歩いていると疲れますよね。すぐそこに切株がありました。座ります。これは椅子なのか？　そう思うわけです。ところが機械にやらせると、これは椅子なのか机なのか？　えーと、この高さは……などと、わけのわからないことを言い出すわけなのですが、疲れていたらそんなの知ったこっちゃないじゃないですか。もう座れれば椅子ですよ。

そんなふうに、人間であれば自分の体が感じるままに椅子を認識できる。でも機械はというと……？　AIは正しいですから、覚えさせたものは覚えるし、そうじゃないものは知ったこっちゃないと。これがまさに、「人工知能はなぜ椅子に座れないのか」ということでございます。

森本：今のやり取りがまさに人間らしいなと思いました。「食べ物」という言葉から意味を拾って、咄嗟にやり取りできるというのはなかなかできないですよね。

松田：なかなかね。いや、アドリブって難しいですよね。

（一同笑）

森本：そこでさらに意味のある話に持っていって、本を買いたくなるような話につなげ、ぜひ最後にこの本を買っていただければ。

松田：ぜひぜひよろしくお願いします（笑）。

AIの限界を知りながら描くビッグピクチャー

森本：それでは手を上げていただいたお父さんにお話を振りたいと思います。お願いします。

質問者2：先生、今日はありがとうございました。 AIなどについてまったく詳しくない素人の質問ですが、先ほどお話で「強いAI」と「弱いAI」というものがありましたよね。結論のところで、シンギュラリティは起きない、完全自動運転はできないということだったと思うのですが、「弱いAI」というのはサポートするのが最終的な限界で、いわゆる「強いAI」というのは存在しないということなんですか？

松田：そうですね、どこまでいっても越えられないというのがある種の結論ですね。

質問者2：1つすごく単純に思ったのが、自動運転にしてみても、例えばアマゾンだったりGoogleだったり、自動車会社ではトヨタだったりが、報道レベルでしか知らないものの完全自動運転を目標に今いろんな研究をしているといったお話があるじゃないですか。

そこで「完全自動運転は実現しない」のだとすると、彼らはそれがわかった上で、なにを目標としているんでしょうか。そう疑問に思ったものですから、どんなことなのかというところを教えていただければ。

松田：わかりました。今トヨタさんなどのいろんな自動車会社や、アマゾンさんのような物流会社が、なるべく人間の手を離れた自動運転をできるようにしていこうと目指してやっています。

では、技術をやってる人たちが理解しているかしていないかというと、基本的には限界は理解してます。ですが、2つ大事なことがあります。まず1つは、完全自動運転というか、ある種の「究極の未来」というのを描いてみると。その上で、技術的な限界はこうだよねということを認識する。

この2つ自体はすごく大事です。そうするとなにが起こるかというと、「それなら人間がこの部分をやらないといけないよね」「人間はこれをやって機械はこれをやるから、全体としてはこのような絵にするのが理想的だよね」と。そのように僕らは進んでいこうという、ある種のビッグピクチャーといわれるのですが、大きな絵が描けるということだと思います。ですから、いきなり諦めるんじゃなくて、まずは絵を描いてみるということがすごく大事だと思います。

森本：Googleの開発者のインタビューを見たことがあるのですが、1番はじめにきっかけとなったのは、ある女性が父親を交通事故で亡くしてしまい、それは運転ミスによるものだったそうなのです。こうした事故で亡くなる人を限りなく0にしたいという思いから始まって、こうしたプロジェクトになったというインタビューだったんですね。今日の先生のお話とつながったと今解釈しました。

松田：おっしゃるとおりなんですよ。間違っちゃいけないのは、完全自動運転自体が目的になってはいけないということなんですよ。あくまで人間の心から出てくるものが目的であるべきで、そうすると技術の使い方を間違わない。誰が思っていることでもない、よくわかんない絵を目指していくと、誰も喜ばないものができて、結果誰も使わないよということが起こるということだと思います。

森本：なるほど。ではやっぱり、結局は人間がどうしたいかというところが先にあると。そのために、どう自動化の技術が使えるかということなんですね。

松田：おっしゃるとおりです。

ドラえもんの開発エピソード

森本：あと1人……。最後の質問です。

質問者3：はい！

森本：あ、ほんと？　だってドラえもんのTシャツを着ていますからね。そりゃ質問があるでしょ（笑）。じゃあ質問お願いします！

質問者3：ウェブサイトにもチラシにもドラえもんの絵が描いてあったのに、なんでドラえもんの話は出てこなかったの？

（会場笑）

森本：ドラえもんの絵を描いていたから……。（ドラえもんの話）を楽しみにしてた？

松田：……大人の事情な（笑）。ちょっと話してもいいですかね。実はドラえもんの話には、すごく深い話がいっぱいあります。僕の大好きな場面があるんですよ。

ドラえもんのコミックス第15巻。僕が小学校4年生の誕生日に、おばに買ってもらった15巻です。僕はのび太君と同い年だったときにこのページを読んで、感動したんですよ。台詞だけ見るとわけがわからないと思うので、少しだけお話しますね。

みなさんもご存じのとおり、のび太君は勉強が大嫌いですよね。テストも0点だし、成績も上がらないし、いじめられるし「やだ！」みたいな感じなのですが。（スライドを指して）こんなふうに「僕、勉強する」と言いだした。

なんで「僕、勉強する」と言いだしたかというと、のび太君は頭が良くないので、今のまま3歳の頃に戻れば周りより賢くなるじゃないかと思ったんですよ。「人生やり直し機」という道具を使って、頭はそのままで3歳の頃に戻ったら、すごくかしこくなったんですね。

それで、天才少年のように崇められたんですが、そのあと勉強もせずに暮らしていると、小学校3年生4年生くらいになって、もうまったく勉強についていけなくなった。

それを経験して現代に戻ってきたのび太君は「やべぇ」と。どれだけ3歳4歳の頃に戻っても、やっぱりちゃんと勉強しないとだめだというように思ったあとで「僕、勉強するぞ」と言い出した。そして、勉強して発明するんだと。勉強をしなくても頭がよくなる機械を。ようするに、勉強したくないと言っているわけなんですが（笑）。

なんだけれども、勉強しなくても頭がよくなる仕組みを作るために「がんばるぞ」ということを言っていて、これもさっきのリックライダーさんと共通する部分があると思うんですよ。

事務作業ばっかりの時間が嫌だから、それをなんとかするためにいいシステムを作るぞと言い出したのがリックライダーさん。のび太君は勉強しないために勉強するぞと言い出した。

非常に共通するところがあります。実はエンジニアや研究者と呼ばれる人は、僕も含めてすごくズボラなんですよ。サボるのが大好きなんですね。でもサボるためにはちょっと頭を使うというようなことをするのが得意。

まさにコンピュータでプログラムを作ったりするというのも、サボるために同じ作業を機械にやらせるみたいなことなんです。ワガママにも見えるのですが、それをやるためにがんばるというところをのび太君が教えてくれているということだと思います。ちょっとごめんなさい、熱くなっちゃったんでわかりにくかったと思いますが。そんな感じです。ありがとうございます。

本質的な問いを大切にする理由

森本：ありがとうございます。では最後に1個だけ質問していいですか？　僕が雄馬先生と出会ったのは、たぶん2年前くらいでした。2冊目の本がこちらにあるのですが、1冊目の本が出る前くらいのタイミングでお会いしました。人工知能の研究者さんとは何人かお会いしたことがあったのですが、はじめて「あ、この人はあったかい人だな」とすごく思ったんですよ。

松田：うれしいよ。

森本：はい（笑）。人工知能の研究者さんとお話したときに、「こうしたらこれくらい利益が出るよ」「この技術はこれくらい利益になると思うよ」といったお話を聞くことがよくあります。でも、雄馬さんはぜんぜんそんな話しませんね？

松田：いや、できますよ？

（一同笑）

森本：誰とお話するかで合わせているとは思いますが、その雄馬さんが、僕の好きな雄馬さんの一部ですね。僕から見たらそういったことを大事にされていらっしゃるような気がして。「人間とは何か」「生命とは何か」。そうした本質的なことを大事にされている気がしたんです。

雄馬さんがそのような問いを持たれている理由や、体験などのきっかけ、そうしたものがあればぜひおうかがいしたいなと。

松田：それちょっと事前に用意しときたかったなあ。

（一同笑）

森本：今、パッと出てきちゃったんですが（笑）。

機械にはできない自分らしい生き方を目指す

松田：本当にこれはすごく大事なことであり、かつ、いろんなものがつながってくるところなので。本当をいうと整理してお話したいところなのですが、ごめんなさい、ちょっとアドリブなのでわかりにくくなっちゃうかもしれませんが。

森本：ぜひそれで。

松田：まず、僕自身は研究者で、そうしたメンタリティがすごくあるんですよ。やりたくないことはやりたくないというような。でも、やりたくないことはやりたくないけど、バカにはなりたくない。そうしたすごくわがままなところがあります、というのがまず1つ。

もう1つは、例えば先ほど、いろんな人工知能の研究者に森本さんは今までお会いしてきたとおっしゃっていましたが、やっぱり誰でもできるじゃないですか、そうしたお話は。ようするに、数式A＋Bというようなものがあって、そこに数字を入れたらなんらかの答えが出る。「これくらいの利益になりますよ」というのもそうしたことだと思います。

まず、誰がやっても一緒だということは、自分がやらなくてもいいということだと思うんですよ。やらなくていいというか、別に自分がやってもいいんだけど、そこに僕は面白さを感じない。だって自分じゃなくてもできるんだもん、という感じですね。

究極、機械がやればいいですよね。僕が大事にしていることは、自分にしかできないことを自分はやりたいということで。例えば森本さんとお付き合いするときにも、自分が思う森本さんというのはこんな人で、それはもう他にはいない。

森本さんにしか持っていないものなのだから、そういうところが自分は好きだし、そのようにお付き合いしたいですと。これは人間関係もそうだし、実はビジネスでもそうで。実際にビジネスをやるときに、他の人でも同じことができるというようになると、あとは「他の人より安くしますよ」「他の人より早く仕上げますよ」といったように、スピードやお金勝負になっていきます。勝者のいないゲームと言われたりしますが、みんなで貧しい思いをするようなことだと思うんですね。

そこの出発点がまさに、自分にしかないことをやるのか。相手にしかないものを見出すのか、それとも誰とも横並びで、それを価格で比べるのかというような。そうした違いになってくるかと思っています。

森本：めちゃくちゃ共感しました。

松田：ありがとうございます。

人工知能の哲学について考える

森本：まず1つ目で、やりたくないということは悪いことじゃないと。例えばお子さんに「これをやろう」と言ったときに「いや、やりたくないよ」というのも、別に悪いことじゃないのかもしれないと今思いました。

松田：どちらかというと、やりたくないというのは必ず理由というか、なんらかの感情を伴っているんですよね。ということは、そこと向き合うことが大事なんじゃないかと思いますね。

森本：たしかに。そして2つ目ですね。雄馬先生の1冊目の本「人工知能の哲学」という本なんですよ。人工知能の哲学？　とまずなったんですよね、僕は。人工知能の哲学について考える人というのに初めて出会ったので。

雄馬さんといえばこうした感じという、雄馬さんにしかないものがあるので僕は大好きで、2冊目もすぐに買って読んだのですが。これからの時代、僕たちも自分らしさを見つける教育「tanQuest」というものをやっていますので、ぜひよろしくお願いします。

松田：おっと、上手くつなげて（笑）。でも森本さんの活動は、一人ひとりの小学生のみなさんと向き合っていて、その中で一緒に実験をやったり、本当に僕は大好きなんですよね（笑）。

森本：というラブラブな2人がお送りしました（笑）。ありがとうございました！

（会場拍手）

松田：どうも、今日はありがとうございます。