AIはなぜ似たような答えを出すのか　“無難さ”を超える個性の条件

身体性のデータは平均化する？

門拓馬氏（以下、門）：（笑）。本当にAIがあってよかったなという気持ちですね。いったん1時間ぐらいしゃべったので、質問を受けても大丈夫ですか？

宇野礼於氏（以下、宇野）：はい。

門：ご質問があればというところなんですけど、いかがでしょうか？

（会場挙手）

参加者1：先ほど、AIに身体性を持たせる実験があるというお話を聞いていて思ったのですが、身体的な感覚を持たせる場合も、結局はデータを与えているわけですよね。そのデータはこの地球上のものである以上、最終的には虚像やn=1に近づいていくのではないか、と感じました。

なぜそう思ったのかというと、身体性とはオリジナリティであり、それを受けてどう感じたのか、そして今どのような状況にあるのかによって出力が決まるものだと考えているからです。

ただ、データが集まれば集まるほど平均化され、結果として虚像のようになってしまうのではないか。さらに、その時の環境や現在の状況まで取り込もうとすれば、ますます個別性が薄まっていくのではないか、とも思いました。

結局、データが膨大になればなるほど平均的になってしまう。そうであれば、ドラえもんのように自我を持たせることが、一つの解決策になるのではないか、と考えたのですが、どうなのでしょうか。

宇野：はい、ありがとうございます。非常に難しい質問ですね。

先ほど、人格という話もあったと思います。身体性を持たせる時に、いろんなAIを作っておいて、それぞれに実社会、実世界での学習をさせて、そのデータを全部1ヶ所で吸い上げると、本当にあらゆるデータを取ったAIができると思います。

おっしゃるとおり、そうすると個々人の違いみたいなものがなくなってしまうので、結局、すべて平均化されてしまうというのは、本当にそのとおりだなと思います。

たぶんフィジカルAIじゃなくて、今の生成AIもWeb上のものすごく膨大なデータを学習しているので、ある意味、どこを取ってもすごく平均的なというか、当たり障りのないところになっているなという感じがしています。

だからそこに対しては、今おっしゃっていたように、何か人格を与えたり、あえてデータを共有しなかったり、ということが起きていく可能性があるんだろうなと思います。

フィジカルAIもそうですし、今の生成AIでも、例えば自分のためのパーソナルアシスタントみたいになってくると、自分だけが持っている情報やデータにあえて特化させていくという考え方もあります。そこは、たぶんAIを何に使うかだと思うんですけどね。自分のために使うのか、それとも全知全能の何かを作りたいのか、というところによるのかなとは思います。

門：すごい質問でしたね。おもしろいな。

東洋思想のアプローチでいうと、西洋側の人って白か黒かみたいに二極で捉えるんですけど、我々東洋は、2つのものの間で意味ができるから、それを我々は認識しているみたいに、白も黒も結局相対化して理解しているんですよね。

僕や今の会場のみなさんが、僕を「たくま」として認識しているから僕は今、「たくま」なんです。先ほど、バックヤードで宇野さんが僕のことを「『シカ』さんって呼んだらいいですか？」って聞いてきたんですよ。これ、おもしろいですよね。ユーチューバーとしての認識だと「シカさん」なんですけど、実像の認識だと「たくま」になる。

そういう、物の二極の中の認識を自分たちで選んでいる。だから、この色も、人によっては茶色だけど、人によっては茶色じゃない。僕としては、そういう二極性みたいなものって、やはり身体性がないとすごく難しいんだろうなと思っているんです。

そうなると、データばかり入れると平均化されちゃうよね、というのはすごくよくわかります。一方で、本当に無限大の無量大数的なデータを、もし仮に入れることができて、「地球の全部の英知をすべて吸い上げました」みたいなことをやったら、平均化されるのか。

先ほど言ったように、クリティカルシンキングが死ぬほどうまい東洋思想みたいなものが出来上がるのか。もしくは、まだ到達していないと思いますけど、積み上げ型の西洋哲学の哲人になるのか。どうでしょうね（笑）。

AIは「人間っぽさ」を出すために、あえてランダム性を入れている

宇野：そこは本当にどうなんでしょうかね。

ちなみに、ちょっとずれるかもしれないですけど、ChatGPTとかって、まったく同じことを聞いても、その時によってちょっとずつ違うものを返してくるじゃないですか。

あれってなんでかというと、あえて機械的にランダムなデータを入力している仕組みだからなんですね。なので、そのランダム性を排除すると、今のChatGPTはまったく同じことを返してくるようになるんです。機械なので、そういう性質になんです。

だから今は、あえて人間っぽさを出すために、あえて毎回ちょっとランダムな要素を入れている、という仕組みなんですね。

だから、あらゆるデータを学習すると、結局同じようになっていってしまうので、「あえて情報を分断する」じゃないですけど、それぞれが違うものを見ている、違う情報を持っているという、ある意味、人間の多様性みたいなところが、AIにももしかしたら求められているのかもしれないなとは思いますね。

門：いやぁ、おもしろいですね。でもそうすると、理想的なAIができなさそうだ、と思ったり。

宇野：そうです。それらをすべて包含するものができていくのか、いかないのかというところは、本当にどうなるのか。

門：という回答です（笑）。

（会場笑）

身体性に「愛着」と「ストーリー」が乗ると、人間らしさが立ち上がる

参加者1：身体性を付けた上で、愛着をプラスすると、より人間になっていくのかなって感じました。

例えば……昔読んだ漫画で、グレーはねずみ色というのかという話があって。夫婦間で「あれ、ねずみ色だよね」と言っていたから、（グレーを見た時に）ねずみ色という言葉が出る。

なので、そういうストーリーや、自分の愛着や思い入れが付いた上での身体性が、オリジナリティで人間らしいのかなというふうに、お二人の話を聞いていて感じました。

門：いや、そうですね。本当にそうだと思います。そういうのって、システム工学的に考えると、ノイズになるじゃないですか。普通は排除するけど、逆にAIを作る人たちも「逆に、これは排除しないほうがいいんじゃないのか？」みたいなにとても悩んでいそうですね（笑）。

宇野：そうですね。たぶん技術的には、人格や個々人によらないベースとなる知識を入れていくというところと、その人格ごとに変えていく部分を、いかにアルゴリズムとして分けて構築するか、を考えていると思います。

AIにしても、人間と同じ時間を共有したとか、同じ経験をしたとか、そういうものが出てくると、先ほどのAIBOもそうですけど、愛着だったりがたぶん出てくる感じがしますよね。

門：そうですね。そんな気がしました。

参加者1：ありがとうございます。ドラえもんはすごいですね。

門：ドラえもんはすごいですよ。あれ、大量生産して目玉焼きで色をつけているんですからね。卵で色をつけているのを知っていますか？　

宇野：ぜんぜん知らないです。

門：今の話にぜんぜん関係ないけど、ドラえもんの製作工程って、めっちゃおもろいんですよ。

（会場笑）

しっぽや鼻は、確かさくらんぼか何かなんですよ（笑）。これ、本当なんです。めっちゃおもしろくて。青い状態から卵をパカッて割って、ドラえもんの型にバーンッてやって、黄色くして、ドラえもんにするみたいな。

宇野：そんな流れなんですか？

門：（笑）。

（会場笑）

何の話をしているんでしょう（笑）。