信頼や信用とはいったいなんなのか
山極壽一氏（以下、山極）：ここからは、人間にできてAIにできないことはなんだろうか？ ということを、ちょっとみなさんにたずねてみたいと思います。これまでのアンケートのなかにひらめきという答えもあったんだけど、みなさんはどう思いますか？ 人間にできて、AIにできないことはなんだと思うか。
参加者7：慶応義塾大学1年の○○と申します。AIにできなくて、人間にできることですよね。最終的に人間から、信用とか信頼を、はっきり言ってその人というか、そのものに自分のすべてとか、命をゆだねてもいいと思える程度の信用、信頼を人は得られるけども、AIはそれができないんじゃないかと思います。
山極：なるほど。なかなか深い答えだな。ようするに、先ほどから僕が言ってるのもそのことなんです。信頼、信用っていったいなんなんだろうってことですよね。経済を動かすために、経済に信用というのは絶対必要です。
なぜならば、我々はお金を使ってそれをやりとりしながら、実際の品物を交換せずに、その権利だけを譲り合っているわけですよね。それはお金に対する信頼と、それから相手に対する信頼がなければ、絶対できない行為なんですね。
経済行為というのは、おそらくほかの動物にはできません。人間だけにできること。チンパンジーが最近、自動販売機で物を買うことができたみたいだけどね。
（会場笑）
でも、それは短期間の信頼に限られてしまう。我々はやっぱり、その信頼を持っているからこそ、これだけ大規模な、グローバルな経済をつくり上げることができた。だけどそれが今、限界にきてると思うんですよ。だから詐欺がいっぱい起こるわけでしょ？
そこがたぶんAIに任されていくと、どこかで不都合なことが起こるかもしれない。だからまさに、素晴らしい指摘だと思います。ほかにありますか？
参加者8：東京大学の○○と申します。AIでいくら物をつくったりサービスを提供したりしても、それが人間にとって役立つかどうかを、最終的に判断するのは人間だと思います。
山極：判断力はないってことだね。
参加者8：はい。
山極：人間にとって役に立つか、役に立たないかを判断する能力は、AIにはない。
参加者8：ないと思います。
山極：うん。そうですね。実際人間だって、役に立つか役に立たないか、判断できないかもしれないよね。それはなんか、すごく漠然としたところに人間がいて、AIはそこにとどまり続けることができないかもしれない。つまり矛盾というものを抱えながら、AIは生きていけないかもしれない。働き続けることができないかもしれない。言い換えてみればね。
人間の好き嫌いは価値観に左右される
山極：我々はどこかで判断を、常に迫られているわけですよ。でもその判断がいいかどうかというのは、結局自分だけの判断ではできないわけですね。誰かがまた、ぜんぜん別々の判断を下すかもしれない。しかも時代が変われば、それが変わるかもしれない。だけどAIの場合には、過去のデータをもとにしてしかその判断はできないはずであって。
例えば、これはスポーツ選手がよくやることだけど、99回失敗しても、その失敗をもとに諦めることはしなくて、1パーセントの望みにかけてやったら成功したことがあって。そういうふうに、人間というのは未来を目指してきたわけですよね。
それはその場で、そのデータが自分に役に立つか役に立たないかということを、データ上で判断したわけではなくて。人間は、その失敗がきっと1パーセントをかけるに値すると、バカげた判断をしたわけですよね。その結果、成功が手に入ったかもしれない。
人間の、その想像力だとか発明だとかいうのは、みんなそうやって乗り越えてきたと思うんですよね。そこがたぶん、AIが苦手な部分ではないだろうかと思います。君の意見をちょっと普遍して私なりに解釈してみると、そういうことかもしれないなと思いました。
参加者9：東京大学3年の○○と申します。先ほど経済のお話があって少し思いついたんですけれども。なにかに価値を見出すということは、やっぱり人間にしかできないのかなと思っていまして。例えば、自分はあのアーティストが好きだとか、君のこういうところを魅力だと思うというところは、感情に繋がるのかもしれないですけども、やっぱり機械にはできないところかなと思いました。
山極：ありがとうございます。実は人間の好き嫌いって、価値観に左右されるんだけれど。でも、価値を常に裏切っていく性質を持っているんですよね。だからこそ多様性というのは生まれるんですけども。私が本当に、おっしゃるように心配しているのは、AIを使っていくと価値基準がフラットになっていくんじゃないかってことですね。
つまり、今世間ではエビデンスベースの規格ということがとやかく言われているけれども、これはAIに頼れば、エビデンスはすぐデータ化して見つけられるわけで。そのエビデンスに則って決定をしていけば、規格の方向性とか規格の質というのは、どんどん決まったものになっていく。
脳の外部を危惧する理由
山極：そこに、人間の場合には好き嫌い、好みが入ることによって、なにか違う価値観がそこで生まれるんだと思うんですよ。例えば「痘痕も靨（あばたもえくぼ）」というように、100人100様で好みって違うわけですよね。ほかの人は「え、こんな人と？」という人を好きになる人がいたりするわけですね。
それは人間だけじゃなくて、物にしたって「こんな汚い貝殻を集めてどうするの？」というのを、一生懸命集めている人もいるし。こわいヘビを、こう手にくねらせながら悦に入ってる人もいるし。それが人間の好みというものがわからないところなんですよね。
でもそれは利害関係だとか、その人の役に立つようなことというのを、エビデンス化してどんどん方向性を決めていけば、そういう好みというのは平均化していくかもしれない。私が今恐れているのは、脳の外部化です。脳の外部化というのが、どんどん技術によって進んでいって、多様性をもたらしていた好みまでも外部のシステムに依存するようになりはしないか、ということなんです。
例えば、今Amazonでよく起こっていることは、本を注文すると、その本を素早く送ってくれるのと同時に、「あなたが次に読む本はこうですよ」って。これが情報であるならまだいい。でも情報プラス好みというのが、そこに反映されているわけですよ。つまり、好みの方向づけがそこでされている。
我々はだんだん考えるのをやめてしまって、その外部化された知性が望むように、我々の好みを変更させるということが起こっているんではないか、ということなんです。人間というのは、個人個人違うようにできていて、個人個人は自分の遺伝的形質だとか、あるいは生後経験した経験、経験した知識。あるいは感性によって、好みはみんな違うわけですね。
それを個人個人が自分で課題を立て、そこに答えを与えるように、自分の頭のなかで回転し続けている。だからほかの人に右へならえではなくて、常に私とはなにか、私の好みはこれだ、みたいなことを常に常に、頭のなかで渦巻かせながら判断しているわけですよ。
それが、だんだんと外部化されるようになっていくんではないか、ということなんですね。それは別に、人間が変わったわけではない。環境が変わったんです。我々は科学技術というものを発明し、それを発展させ、その科学技術にさまざまな自分たちの暮らしを依存するようになっています。
AIができないひらめきというものを大事にしていく
山極：移動するのも、最近あんまり歩かなくて済むし。それから、食べ物でも自分でつくらなくて済むし。どんどん、その自分の身体的な欲求に合うような物がつくり出され、その外部的な情報と実態によって、人間の体の好みもどんどん変わってきているわけですね。
今我々が考えなくちゃいけないことは、そういった、環境がどんどん変わりつつあるということと同時に、我々が考えるという知性、そういうものも外部化していく恐れがありはしないかということなんです。AIは、それを人間に代替してできるわけではありません。
しかし、彼らは答えを出します。その答えを、さっきおっしゃったように、人間が判断して決めていく時代はいいでしょう。しかし人間が考えることをやめてしまったら、外部化した知性によって、知能によってそれを方向づけられ、それを与えられ、それをただ選ぶだけの存在になっていきはしないだろうか。それが私の危惧です。そうはならないと思いますけどね。
そのために実は私が言いたいのは、生の声で会話をしながら、AIができないひらめきというものを我々は大事にしながら、そこに自分の個性、自分の好みというものを投射して、相手とのあいだで楽しむという時間をつくるべきだ。そう思っているわけです。
もうちょっと、人間にできてAIにできないことを言える人はいませんか？ とくに女性の声を聞きたい。
