ドラえもんって、何ができたらドラえもん？　「定義できない」を突破する「社会的承認」 [2/2]

コピーリンクをコピー

ブックマーク記事をブックマーク

「ドラえもんの定義」がつくれない　だから発想を反転した

大澤：結局「ドラえもんって、何ができたらドラえもんなの？」というのをずっと考えていて、「感情かな？」とか「記憶かな？」とか、試行錯誤をずっとやっていたんです。けれども何を考えても、何を当てはめてみても、これならドラえもんの定義だというのがどうしても思いつかなかった。

例えば汎用人工知能の界隈では、「能力セットを作る」とか「1個1個（特徴を）列挙していく」みたいな研究もいっぱいあるんですよ。そういうのを全部見てみても、「これが全部できてドラえもんですって、なんだかなぁ……」と思っていたわけです。

しかも極め付きは「ドラえもんの頭って硬いと思う？　柔らかいと思う？」とTwitter（現：X）で聞いたら、柔らかいと思う人が4割ぐらいで、硬いと思う人が6割ぐらいだったんです。

古参（のファン）だと映画とかでは最後に敵を石頭でけっこう倒したりするので、硬いというのを譲れない人もいます。でも最近のアニメとかをよく見ている人には、抱き合ってグニャグニャに曲がっているイメージもあるから、けっこうそこも意見が分かれる。

じゃあ、「頭が硬いのがドラえもんの定義です」と言っても「柔らかいのがドラえもんの定義」と言っても、誰かの「自分のドラえもん観」を裏切ってしまうと思ったんですよね。

そうなった時に「あぁ、もうドラえもんの定義ができないじゃん。どうすればドラえもんの定義として世界中のみんなが納得して、認めてくれるものがあるんだろう？」って考えました。

その時に、「いやいや、みんながドラえもんだと認めたらそれがドラえもんだ」という、AIの機能として見るというよりは、AIと関わった一人ひとりの心の中を見るという発想でドラえもんの定義を考え直しました。そうすると、意外とそういう考え方のものっていっぱいあると思ったんです。

「社会的承認による定義」　心や友だちと同じ考え方

大澤：「友だちの定義って何ですか？」と言われても、「週1回LINEを返して、困った時にはすぐに駆けつけてくれて」と定義をする人はなかなかいません。「今週連絡を取らなかったから友だちじゃなくなった」みたいなことはないわけですよね。「お互いに友だちだと思ったら、友だちでしょ？」というようなことをやります。

もっと言えば、実は「心」みたいなものも定義って定まっていないし、そもそも心がどこにあるのかってよくわかりません。そういうものを「いや、僕らには心があるでしょう」と、みんなで「心はあるよね？」と認め合うことによって心がうまく成立すると思っています。

そういうのを、人が認めることというか、ゆくゆくはドラえもん本人も含めて認め合うことを通して定義するという「社会的承認による定義」というのを考えました。これに基づいて研究を体系化することによって、ドラえもんをつくるまでのロードマップができました。というので書いたのが、2020年の博士論文でした。

ドラドラしかしゃべれないロボットで「心がある」を起こす

大澤：その定義の話はいろいろあるんですけど、要するに作ったロボットは、どんなロボットになったか？」というと、こんなロボットです。

『ドラえもん』に「ミニドラ」というキャラクターがいるのをご存じですか？　「ドラドラー！」しかしゃべらないんだけど、上手にコミュニケーションが取れるよっていうロボット。あれを模して「ドラドラ」しかしゃべれないロボットをつくりましたという話です。

ただつくるだけだと研究にならないので何をさせたかというと、「ドラドラ」しかしゃべらないロボットにしりとりをさせました。「リンゴ」と言うと「ドララ」と返してくるんだけど「お？　今『ゴリラ』って言ったでしょ？」って、人間がついわかっちゃうということです。これは何かというと、心があると認める（ということです）。

ドラえもんだと認めるとか、ミニドラだと認めるというのもそうです。もっと学術的に言えば、ダニエル・デネットという哲学者が提唱している「意図スタンス」という理論があり、意図を感じると心を感じるということがわかっています。

だから、意図があって心がある存在だと認めてあげると、ただの「ドラドラ語当てクイズ」ではなくて、「あ、『ゴリラと言おう』という意図があるんだな」というところが伝わって、うまくコミュニケーションがいくことがけっこうあります。

「言外の意味」を読めるか　LLMの弱点に挑む研究へ

大澤：こういう研究をやっていると、「大規模言語モデルの時代に、ドラドラ語でわざわざしゃべる必要はないんじゃないですか？」とか言われるんです。この時は、言葉はしゃべれないけど心が伝わるロボット（の研究をしていました）。（つまり）「言葉はないけど心が伝わる」ということをやっていたんですけど、最近は「言葉も心も伝わる」みたいな研究をやったりしています。

それで、大学でやったクイズがこれです。いい感じになっている友だちと話していたら怒らせちゃって、「あんたなんてもう知らない！　連絡してこないで！」と言われたとします。何と返すのが正解ですか？

うちの研究員の人も「もう連絡しないです」と言って女子大生たちに「あり得ないよ」とボロカスに言われていたんです（笑）。僕らが今一生懸命に考えた中で、これが最も有力だろうと思われている答えが1つあります。

今日は男性陣が多いのであまりウケが良くない気もするんですけど、「そんなことを言わせちゃって、ごめんな。傷つけたよね」であると。これは男女でリアクションが……わかります？　これはいいですよね？　あぁ、OK！　よしよしよし。セーフです。Web上の方々も、もしよければ「いい」「悪い」を言っていただきたいんですけど、これは「なんとなくいい」じゃなくて、ちゃんと「学術的に良い」。

皮肉も本音も読むために　「他者モデル」をLLMに組み込む

大澤：それは何かというと、「表現している言葉の意味と、意図している言言外の意味にズレがあるよね」ということなんですよ。つまり「連絡してこないで」とは言っているが連絡してこないでほしいわけじゃないんです。じゃあ、何かというと「私はこんなことを言っちゃうぐらい傷ついたんだよ？　わかってよ！」というのが心の内なんじゃないかって考えるわけです。

それで、もしそうなのであれば、その心の内に寄り添いながら、言葉上では（相手が意図している言外の意味とズレなく）つながる「そんなことを言わせちゃってごめんね。傷つけたよね」っていうのがあるという話。つまり、言葉には表れていない裏の意図をちゃんと読み取りながらコミュニケーションをしなきゃ駄目だよという話でした。

実は、「大規模言語モデルとかChatGPTってちゃんと調べると、そういう言外の意味をうまく扱うのが苦手だよね」という論文が2023年から2024年ぐらいにかけてけっこういろいろ出ています。この解決策になるようなクリティカルな論文も別にこれと言ったものはありません。

なので、僕らは「他者モデル」というんですけど、散々やってきた「人の心を読み取る」「意図を読み取る」というものに関する手法を大規模言語モデルにうまく組み込んであげる。この手法だと、既存の大規模言語モデルではなかなか皮肉が読み取れなかった、みたいな問題を解決できます。

例えば、「あんた、いい時計を付けてはりますね」って京都で言われたら喜んじゃいけないらしいです。「いつまで居座るつもりだ。お前は時計も見られないのか。早く帰れ！」という意味らしいんです。我々の手法だと、そういう裏の事情も整理してあげた上で評価実験をしてあげるとうまくいきます。だから、最近だとそういうことを、レクサスさんやNECさんと共同研究をして、事業化していくみたいなチャレンジをしています。