「受動的な猫」と「身体を持たない人工知能」の共通点　自らの失敗に気づけない“AIの限界”と、主体性の大切さ

人工知能が仕事を“増やしてくれた”まさにその瞬間

松田雄馬氏：どんどんいきます。「AIには『身体』がない！」。AIと人間の違いから主体性の必要性を知ろう、というお話をしていきたいと思います。

主体性は、まさに今のキーワードという感じだと思いますけれども。僕はいつもお話ししているので、初めてじゃない方はもう「おなじみのあれかな？」みたいに思っていただければと思うんですけど、映像を用意しました。

「身体がないことでこんなことになっちゃうんだよ」とわかる映像なんですけれども。ちょっと映画のナレーション風にお話ししますね。

20XX年、とうとうごみ収集の仕事まで奪ってしまうロボットが出現したという……。やべぇ……。人類はごみ収集の仕事まで奪われてしまうのでありましょうか。

はい。やべぇですよ。もうごみ収集すらさせてくれないのか、みたいな感じですけど。半ば冗談で言ってるんですけど、これ実際にアメリカとかカナダとか国土の広いところで、実際に運用されている半自動のごみ収集マシーンですね。

（映像が流れる）

ごみを見つけて、いい感じで……いやぁ、やらかしちゃいましたね。運転手さん「仕事を増やしてくれやがって」というね。

人工知能が仕事を増やしてくれた、まさにその瞬間ということだったりもするんですけど、実はこれ一番大事なことは、ここなんですね。

ミスしてぶちまけるじゃないですか。ここまでは、まだいい。初めてやるんやからしょうがない。人間かて子どもとかよく失敗するやんかとか、大人でも初めてやることは失敗するやんかという話ですよ。人間でも失敗するんですよ。だから当然ロボットも失敗するんですけど、問題はその後で。これです、これ。見ました？

この“我関せず感”。「え、何かありました？」みたいに言ってそうですよね。要するに何が大事かというと、やらかしたことに気づくことすらできないワケですよ。これが身体を持っていないロボットという、あるはずの身体が自分のものになってないという、すごく大きな問題だったりもします。

だからこそ身体を持っている人間が、システムの尻拭いをせざるを得ないところで「仕事増やしてくれやがって」みたいなことがわかってしまうワケですね。

AIにはボディとしての身体があるように見えるんですけれども、それが自分のものになってないことによる弊害がある。AIの限界でもあります。

人間は機械に勝てない。でも、機械も人間に勝てない

人間とAI、そもそも何が違うのかを簡単にまとめてみました。

実はもともとAIって、当然コンピューターなんですよ。コンピューターってもともと、マシン語という0と1の世界から、ちょっとずつ人間が使えるように言葉になり、プログラミング言語になって、GUI（グラフィカルユーザーインターフェース）といって、例えば「アイコンをクリックしただけでいい」とか「画面をタップしただけでいい」というふうに、ちょっとずつ人間になじみがあるようになってきたんですね。

じゃあ一方で人間はどうやって成長するのというと、真逆だとわかります。人間の成長は、最初の生まれたばっかりの時は、当然ものをしゃべることなんかできないんですけれども、身体を使ってコミュニケーションができるワケですよね。

バタバタ身体を使っているうちに、だんだん物をつかめるようになったり、お母さんに抱きつくことができるようになったり、いろんなものが認識できるようになったりというふうに身体を使って成長していく。

それが、身体を使ったコミュニケーションになり、やがて身体を離れた言語を使えるようになり、言語がちょっとずつ論理的に組み合わせられるようになり。徐々に論理的になっていくという意味で、ちょっとずつコンピューターの計算能力に近づきはするんだけど、当然コンピューターのようにものすごい速さで計算できるワケじゃないと考えると、当然、論理的な部分で人間は機械に勝てるワケがないですね。

一方で、身体を使っていく部分は、逆に身体を持たない機械が人間に勝てるワケがないんですよ。人間は機械に勝てない。でも、機械も人間に勝てない。これが、ある意味で真理だったりします。

「人間と機械は共生していかなきゃね」みたいによく言われるんだけど「どうやって共生すんのよ」って、誰も言ってないんですね。そもそも「人間勝てないし、機械勝てないし」がわかって初めて、お互いを補って共生していけるようになるので、そもそもこれを理解しておかないといけない。

主体性に関する「ゴンドラ猫」の実験

でも、それだけじゃないところもあります。それが先ほどの「ゴミ収集ロボットがなぜあんなふうになってしまったのか？」を端的に説明する実験でもあるんですけれども。（もう1つ）「ゴンドラ猫」という、アメリカの心理学者・ヘルドとヘインがやった実験を紹介したいなと思います。

ちょっとかわいそうなんですけど、生まれたばかりの猫ちゃんが装置にくっつけられちゃいました。どんな装置かというと、縦縞だけの世界で、かつ2匹が点対称でくっついちゃってるんですね。

片方の猫ちゃんは自分の意思で歩くことができる。もう片方の猫ちゃんは、この片方の猫ちゃんの動きに合わせて、右に行けば同じように右に行くし、左に行けば左に行く。ほぼ同じような景色を見ていると思っていただければと思います。

同じものを見ながら育つワケだから、当然「ものを見る」という意味では、あんまり成長速度って変わらないような気がしますが。しばらく、ほんの数週間なんですけど、この装置の中で育った猫ちゃんを見ると、えらいことになっちゃうワケですよ。その結果です。

こっちを能動的な猫、こっちを受動的な猫（ゴンドラ猫）という言い方をしますけれども、その結果がですね……じゃんっ。ゴンドラに乗せられた猫ちゃんは、空間が見えなくなっちゃった。

「どういうこと？　ずっと目は開いているじゃない」という感じなんですけど、例えばものにぶつかるんですよ。自分の足で歩いた経験がないから、目の前になにか景色があったとしても「これだけ動いたらぶつかるな」とか、そもそも「今見てるものが障害物だな」というのがわからないワケですね。わからないから当然避けられない。

リーチングというんですけど、例えば自分の口や手を動かして体を届けることすらもできなくなる。要はエサまでの距離もわからなくなるし、そもそもどれがエサでどれがエサじゃないかすらもわかんなくなる。

「自分で動こうとする主体性」がないばかりに、そもそも「見る」ことができなくなる。この世界でエサも取れなければ、ものも避けられないワケだから、そもそも生きていくことができないワケですよね。だから、自分の力でなにかをやろうとすること、実際にそれをやってみることがいかに大事かが、この実験からわかるのです。

身体がないAIも当然、同じことが起こってるワケですよ。主体性がいかに大事かが、今のお話でわかってきたかなと思います。