人間は、AIに「データをあげるだけの存在」にはならない　ゴミ収集の自動化事例でわかる、論理だけで動く機械の限界

世界中で高まる、AIの進化に対する警鐘

松田雄馬氏：みなさんが質問を書いてくださっている間に、ちょっとほかの話もしようかなと思います。実は『人新世』のお話が出たので、なぜ『人新世』みたいなことが出てきているのかというところで、ご紹介したいお話があります。

これは『ホモ・デウス』という本ですね。『サピエンス全史』という、いわゆる人類の歴史を紐解き直して、今のAI社会に対しての提言を述べた、ユヴァル・ノア・ハラリさんというイスラエルの歴史学者の方が提唱して非常に話題になった『ホモ・デウス』。人間を超えてしまう、新たな生命体のようなAIというものですね。

今ムーブメントが起きていて、世界中でこういった論が話題になっているので、これも紹介したいなと思います。なぜかと言うと、最近講演会などの場でこのお話をしていることと、ここに引っかからないこと自体が今日の対談の結論でもあったからなんです。長期的にむちゃくちゃ儲かるというところを描く1つのヒントにもなりますし、興味深いお話なのでお伝えしたいなと思います。

ここで彼の言っていることは、すごくまっとうに聞こえるお話です。彼は昨今、AIがどんどん進化していることに対して警鐘を鳴らしています。AIというのを1つのアルゴリズムという言い方をしているんですけれども、例えばGoogleだとかいろんな会社のサービスがありますよね。

我々がそのサービスを使う中で、自分の動きの情報……例えば「今日は1万歩歩きました」とか「今日こんな料理を食べました」とか。そういったことを情報としてどんどんあげていくわけですね。そういう中でAIはどんどん賢くなります。つまりアルゴリズムがどんどん賢くなると考えられます。

そこで賢くなったアルゴリズムは、我々生き物のことをどんどん理解していくわけですよね。アルゴリズムが何らかのプログラムで動くようなものだったとすると、そのプログラムは我々生き物がどんどんあげるデータによって学習しますよね。「アルゴリズムは自由ではない」というのはそういうことなんですけど。

論理だけで動く機械の限界

そうするとその外部のアルゴリズム、我々の万歩計のデータなど、いろんなデータで学習するサービスは、私よりも私をよく知るようになる。例えば今自分は痩せたいんだけど、なかなか痩せられない。でも「あなたはこういう性格でこういう行動をとるから、こういうのだったらおいしく食べられるんじゃないの」「こういうのだったら痩せるし、かつモチベーションも続くんじゃないの」みたいな。

そういう提案をどんどんしてくれるようになるわけですね。なぜならどんどんデータをとって、自分のことを知るようになるから。そうなると外部のアルゴリズムが、やがて人にとって代わるよね、と。ハラリはけっこう強烈な言い方をしていて、「人間は万歩計とかのデータをどんどんあげるだけの存在に成り下がってしまう」と。そして、もう人間のクリエイティビティとかそんなものはまったく無価値になってしまう、ということを言っています。

そこに対して私自身は反論をしているというか、明快に生命知・身体知ということを知っていると、まったくもってそんなことは起こりえないと考えています。データをあげるだけの存在にはならないということを、14章の中でも書かせてもらっています。

「生き物はアルゴリズムなのか？」ということで、ちょっとおもしろい例を紹介します。どんどん賢くなるアルゴリズムの、ある種の限界を例として出したのが、ゴミ収集業務の自動化です。単純にゴミ収集を自動化するようなマシンがあって、それがどんどん賢くなっていった時に人間を超えるのか、みたいなところをちょっと考えてみたいなと思います。

この映像のように、実際アメリカとかカナダとか、国土が広い所で運用されています。こんなかたちでぐーっとゴミを持ち上げて、見事に失敗するわけですよね。会場だったらどっと笑いが起きるところですけど。おもしろいのが、失敗することじゃないんですよ。失敗だったら人間もするじゃないって話なんですけど、そうじゃなくて。

失敗したあとの、この動き方に注目してほしいんです。失敗したあともう1回やっているじゃないですか。失敗には我関せず、みたいな感じで動いているじゃないですか。これが人間と機械の最大の違いなんですよ。人間は間違いに気づくけど、一方で機械は気づかないんですよね。

だからこそ人間がいつまでも失敗を監視し続けないといけないし、なるべくそういったことが楽にできるような仕組みを作らないといけない。機械って本当に失敗に気づかないんですよ。これはどんなに機械が賢くなっても、論理だけで動くとそうなってしまうというところがあります。それがわかっていると、ハラリにも反論できるということですね。

江戸時代も人は成長している

ここで質問がいくつか来ていますので読みますね。「江戸時代は経済成長を求めていない時代だったと思いますが、その世代で生命知に立脚した徳の経営が生まれたと思います。脱成長と徳の関係についてはどうでしょうか。公共財は良くないが、脱成長は考える価値があるのか、両方とも良くないのか。いかがでしょうか」。

これはぜひ12章を読んでいただきたいなと思うんですけど（笑）。これに対して私は、1つ明快な答えを持っています。経済成長していかなきゃいけないか、という言葉で語られる時って、GDPのことを話す人が多いんですよ。でも僕はやめたほうがいいんじゃないかなと思うんです。

確かに国のGDPが上がれば税金が増えて、公共サービスとかも行き届くということがあるかもしれません。でもそれと自分の会社が成長するかって、まったく関係ないですよね。経済全体が成長したらそれに乗っかって、というのはあるかもしれないですけど。

江戸時代は脱成長だったという反面、個々人で見たらまず赤ちゃんとして生まれて大人になってと、成長をしていくわけですよ。それで、自分たちが得た知を次に活かすということをする中で、当然商売人は新たな商売を生み出しているわけなんですね。つまり成長するということだと思います。

先ほども出てきた公共財という考え方は、そのへんも含めてまるっと否定しちゃっているんですよね。そこが非常に良くないんじゃないかと思います。江戸時代でも成長はしています。そこがすごく大事なところです。その中で脱成長というところを考えるべきだと思います。

私は別に脱成長というのはあんまり考えなくていいというか、別にGDPは成長してもいいし、しなくてもいいと思っています。大事なことはやっぱり自分自身が成長するか、自分の会社が成長するか。

自分の会社が大きくなりすぎて、しぼんできたとします。ひょっとしたら、それは「会社の業態の役割が終わった」とも言えるわけですよね。だとするとどんどん新しいことというか、今まで会社の中で蓄えられてきた知を、その時代の中で活かしてできることは当然ある。新しく生まれるものは次々に成長していくわけですよね。なので、脱成長は考えなくてもいいというのが私自身の感覚です。

デジタルの役割とは？

もう1つご質問をいただいています。「人々を救う徳、未来経営力のところをもう少しお聞きしたいです。長期的な利益の追求のために、どのようにデジタル×生命知の両輪で商いを行うか。経営者としてはそのバランスも含めて直感・イマジネーションを働かせていく、いわゆる『センスの問題』となりますか？」。

ここは楠木先生とまったく一緒ですね。まずデジタルですが、単純にデジタルを使うというところに関しては、楠木先生の言葉を使うと「非競争の部分」ですね。要するに、結局便利になるんだからそれを使わざるを得ない。それを使えば効率化もされるし、うまくいくんだから、それを使えばいいという話だと思います。

そこで直感・イマジネーションと生命知がどう寄与していくかですが、実はデジタルって、先ほどの第4章のGoogle、アリババ、エストニアみたいな事例を見ると、すごくわかりやすいストーリーがあるんですよ。

例えばGoogleだったら、Webができたばかりで、個人サイトばかりがあるようなしっちゃかめっちゃかな世界。リンクでつながったりつながっていなかったりで、いつになったら情報にたどり着くんだよという世界ですね。アリババに関して言うと、偽札が横行してとんでもない中国の商いの世界。それからエストニアで言うと、旧ソ連から独立したばかりで国として成り立っていない、しっちゃかめっちゃかな状態。

そういう状態を一旦きれいにしないと、そもそも生命力も何もあったもんじゃないじゃないですか。だからこそ一旦きれいにしようよというのがデジタルの役割、非競争の役割だと思います。

デジタルと生命知の両輪での商い

きれいにすると、見えてくるものがあるわけですよね。例えば多くの会社って本当にアナログな業態で属人的なところがあると思うんですけど。デジタルにすると何が起こるかと言うと、みんなの業務が見える化される。みんなの業務が1つの同じお作法をもってできるようになる。

そうするときれいなデータが結果として集まってくる、あるいは集めることができる。それを見ると、お客さんの状態や従業員の状態がわかる。わかることがどんどん増える。すると「こういう状態になっているんだったら、お客さんにこういう提案をしなきゃ」というような、直感・イマジネーションが、どんどん働くようになるんですよね。これがまさにデジタルと生命知の両輪での商いだと、私は思っています。

どうでしょう、お答えになりましたでしょうか。というところでお時間になってしまいました。みなさん楽しんでいただけましたでしょうか。みなさんのビジネスを後押しするような時間になったらなと思っております。

そして今日のお話で興味を持っていただいたり、「まだわからないから、もうちょっと学んでみたい」という方は、ぜひ『デジタル×生命知がもたらす未来経営』を読んでいただけたらと思います。まずは序章で「ふむふむ、なるほど」と思っていただいたら、どんどん読み進めていただければと思います。

巷のDX関連書籍を含めて200冊以上を1冊に詰め込んだ内容になっておりますので。分厚いけどもすごくお得、という感じです。

私の本業はAIの研究者でもあります。あるいはDX推進のコンサルティングもやらせていただいています。教育者という側面も持っていて、一橋大学で教鞭もとっていますし、いろんな中学や高校にも呼んでいただいてお話をしています。私の書いている本を現代文の教科書として、勉強してくれている高校もあるので、またみなさんとお目にかかる機会もあるかと思います。

その際は今日のお話も思い出していただいて、みなさんの新たな未来経営につなげていただければと思っております。少し長くなりましたが、今日はみなさん、どうもありがとうございました。今後ともよろしくお願いします。