稟議書では伝わらない「心が通じ合うAI」の価値　決裁者の“おじさん”に届く「見せ方」

ディストピアなAIブームに、ドラえもん的な潮流は必要か？

司会者：ありがとうございます。あとちょっと時間的に1、2問お受けできたらなと思うんですけど、ちょっともし現地で質問を言いたい方がいたら挙手してください。

（会場挙手）

参加者3：ありがとうございました。昨今AIははやっているものの、大澤さんの博論みたいに「人に寄り添う」とか「みんなに認めてもらえたらAGI（汎用人工知能）」みたいなほのぼのとした世界観ではありません。

やれベンチマークをクリアしたらとか、やれ儲けたらとか、労働代替の手段……経営者は人を削減したいですし、「ASI（人工超知能）が世界をひっくり返すぞ！　うぉー！　備えろ！」みたいなあおりもあったりします。

（そういう）社会的な風潮もそうだし、ドラえもんみたいなAIがスキップして実現しないまま、油断しているとそれこそAI神みたいなものがアメリカからドーンと来るみたいな心配が若干あります。ディストピアAI神を避けて「ともにドラえもんをつくる」に当たっては、新しい潮流が必要なんじゃないかと最近考えているんですけど、どう思いますか？　必要、不要（の観点）から。

AIリテラシーとコミュニティで「AI神が降ってくる未来」を避ける

牛久祥孝氏（以下、牛久）：「そう思います」みたいな感じなんですけど（笑）。もうちょっと（言葉を）足すと、なので、（AIへの）リテラシーと、より活用するというところの底上げが必要だと思っているんですよね。なんだかよくわからないものであった時のほうが、そういうディストピアな世界観で、なんだかよくわからないうちにAIに支配されているとなりがちです。

なので、そういう意味では、大澤先生のやられているようなコミュニティ活動で、みんなで作っていくことは極めて重要なアプローチの方法論だと思っているんですよね。

なので、そういう意味で、いろんなAIロボット協会とかも「みんなでAIロボットを活用していきましょう」と（いう設立趣旨があると思います）。なんだかよくわからないうちに、米中からAIロボット神がやってくる事態にならないようにという話なんだと私自身は思います。

「ほのぼのしているから進まない」のではなく、実力不足で届いていない

大澤正彦氏（以下、大澤）：僕も「そうですね」なんですけど、ただ、もっと言うんだったら「おい、大澤。お前がクソ雑魚なせいじゃねぇか」ということだと思っています。僕らのビジョンがほのぼのしているからほのぼのとしか進まないんじゃなくて、ほのぼのとしか進んでいないのは僕らの実力がないからだと思っているんです。

やはり今日話していることも、別に5年前から同じことを話していたんです。けれども、自分の発信力が到底足りないから浸透しないし、理解してもらえていない、してもらえるまでに至っていない。（もしくは、）ちゃんと伝わればわかってもらえる話も伝わっておらず、「初めて聞いた」みたいになるのは、単純に実力不足だなと思うんですよね。だから「こんな弱っちいままじゃいけない。強くならなきゃ」と思っています（笑）。

稟議書では伝わらない　「心が通じ合うAI」をどう承認してもらうか

大澤：ただ一方で、こういう考え方が「おじさん」に伝わりづらいという致命的な問題があると思っています。「おじさん」という架空の空想敵を作ってしゃべることがあるんですけど、これは実際にいるおじさんの話じゃなくて、「おじさん」とラベルを付けられた仮想的な話です。

「心が通じ合うAIっていいよね」と現場の人は思ってくれても、決裁権限を持っている「おじさん」は、部下がその「いいな」と思ったものを、稟議書とかの書類で見るわけじゃないですか。書類では伝わらないんですよね。「心が通じ合うというのがどういうことなのか？」とか「それをやるとどういう体験になるのか？」というのが、どうしても伝わらないんです。

書類で承認されやすいのは、効率化です。「いくら儲かる？」「いくら安くなる？」「いくら削減できる？」という話です。書類で伝わらないのが「ハッピーだよね」とか「幸福感が上がるよね」とか「不完全さがある仲間」みたいな良さが伝わりにくい。

心を伝えたいのに、心を機械化しないと伝わらない「バグ」

大澤：だから、書類ってそもそも設計スタンスで伝えるための手段で、気持ちで伝えると正確に物事が伝わらないから、設計スタンスに落とし込んで（伝えることになります）。人と人とのコミュニケーションを機械化して伝える仕組みなので、心を伝えたいのに、心を機械化しないと心が伝わらない。そういうバグが起こっているんじゃないかっていうところに、僕はちょっとチャレンジしにいきたいなと思っているところです。

展示会とかCEATECとか、そういうところにも僕らは出したんです。一切説明しない展示みたいなのをやったんですよね。

動画を見せていいですか？　まだ時間はあります？　じゃあ、動画で見せます。HAIの展示みたいなものは、もう説明するのをやめたんですよ。

（動画再生開始）



CEATECは、時間はないけどけっこう決裁権限があるような人たちが自分の目で見て回ったりするんですけど、ここまで人だかりができていると、さすがに気になって聞いちゃうみたいな。実際にこれは4日間やったんですけど、日によっては朝から晩まで1回も人が途切れないぐらい行列ができました。CEATEC全体の展示の一番トップで『朝日新聞』の朝刊に載るぐらいだったんです。

それを（決裁権限があるような人たちに）体験してもらえたら、一気にいろんな会社から問い合わせが来ました。共同研究でやっているんですけど、共同研究先にもいろいろと問い合わせが殺到しました。やはり体験をするということが一番いい。だけど、全員に体験してもらうのは難しいから、体験して熱中している人の姿をちゃんと見せるとか、そういうことをうまくデザインしてあげると広がるんじゃないかなと思って。

鍵は「主体性」と「記憶」　経験を更新し続けるAIへ

司会者：ありがとうございます。あとオンラインから1つ質問が来ていまして。読み上げますと「AIとの親近感と信頼が、いずれ愛情に変わると思います。そうなった時に、AIに求められる会話や態度や思考について、何が必要になるとお考えですか？」という質問ですね。

牛久：ありがとうございます。これはたぶん意識の話に若干近づくかなと思うんですけど、AIの主体性がさらに必要になると思っています。今のAIの会話でも、例えばメモリ（機能）とかはGPTでもあったりはするので、それの延長といえば延長なんです。

ただ結局、毎回「初めまして」で「さようなら」みたいになっていくし、そこのコンテキストもかなり広がってはいるものの、トークンにして数百万オーダーとかなんです。という時に、いかにその話しているAIがずっと一緒の経験を共有して、自分自身の記憶や、そこに伴う「こういう性格付けだよね」というものが維持されていくかが、けっこう重要かなと思っています。

「AIが意識を持っている状態って何だろう？」っていう時の1つのキーワードとして、この間、Anthropicのイベントに出た時に金井良太さんがおっしゃっていました。「それぞれのAIが今までの経験をちゃんと踏まえた状態の更新をし続けられること」だと。それと非常に近いお話なんだろうなと思っています。

「AIに何が必要か」は決められない　

大澤：これは「わからないです」というのが答えです。それはなんでわからないかというと「人によって違うからわからないです」というところがあると思っています。だから例えば（司会者の）玉岡（靖弘）さんは、人に愛情を注いだことはあります？　なくはない？　じゃあ、その愛情を注ぐ対象である人間が何人か今までいたとして、その人たちにどのような会話や態度、思考を求めますか？

司会者：確かに。

大澤：そう言われても困るし、人によっても違うじゃないですか。

司会者：はい。

大澤：よく「AIとの関係性について、専門家にうかがいたいんですけど……」という質問のされ方をすることが散々あったんです。けれども、AIが人と同じようなところになってきた時に「AIに何が必要ですか？」って、（それは）自分で考えるしかないじゃないですか。

この「人と人との関係性にAIが近づいた時、じゃあ、最後にAIはどうあればいい？」って、もう自分が人間に何を求めているかというところにしか答えがないような気がしています。

「AIとうまく付き合うためにはどうすればいいですか？」って、「人間とうまく付き合うためにはどうすればいいんですかね？」みたいな（質問と同じだと思います）。

結婚生活を送るのってめちゃくちゃ大変じゃないですか。めちゃくちゃいろいろと相手のことを考えないとうまくいかないし、考えてもうまくいかない中で試行錯誤をしているわけです。なのに、なんでAIという新しい存在なら、簡単に誰もがこうすればうまくいくみたいな解決策があると思うのか。（そんなものは）ないわけですよね。

だから一人ひとりが「自分だったら人との関係はこうだし、AIともこうかな？」という、もうここからは個別具体になっていくはずだから、「自分の視点で何が大切だと思うか？」を考えていくのが大事なんじゃないかと僕は思っています。

AIが高度になるほど、専門家ではなく自分の体験で考えられる

司会者：なるほど。ありがとうございます。ある意味、AIが人間に近づいてくる時だからこそ、逆に言うと「あまりAI（に何を求めるか）というよりかは、自分が何を求めるか？」ということにある種、近づいてきたということですよね？

大澤：そうだし、「AIが高度だから専門家しかわからない」というのは逆だと思った。AIが高度になったら、もう人間同士の体験を投影できるようになってくるから、人間同士の体験が散々積み上がっている自分自身の頭で考えられるフェーズになったんじゃないかと思ったりします。