「バイアスなき意思決定」のためにAIをどう活用するか　期待値コントロールと人間の能動性を利用した使い方 [1/2]

最終的には一人ひとりのエージェントを作りたい

國本知里氏（以下、國本）：佐々木さんはまさに今SpiralAIでやられていらっしゃいますが、何か人格を作ろうってことは、今どんどん増えてきていると思います。要は、プロンプトで解決しようっていう問題が多いと思うんですよね。

そこに対して「プロンプトじゃもう無理だ」というところで人格を作られていらっしゃるのが、佐々木さんの取り組みというところですね。

山口さんも、企業の中で最初に生成AIを始められている中で、今みたいな人格を作るみたいな取り組みとかはされていらっしゃるんでしょうか？

山口有希子氏（以下、山口）：まだまだそこまでいっていないですね。もちろん生産性向上とかいろいろなところで活用の幅は広げていますけど。最終的に何を目指したいかというと、やはり一人ひとりのエージェントを作りたいと思っているんです。まだまだそこまではlong way to goですけど。

どういうAIがその人の成長を促すか

山口：そうした時に、今のお話ってすごくおもしろくて。結局人を支えるってなると、AIエージェントになっていくじゃないですか。そうした時に、どういうAIがその人の成長を促すかとかを考えると、おもしろい世界ですよね。

やはりのび太にはドラえもんが必要だと思うし、「いや、アトム君じゃなくてやはりドラえもんだよな」みたいな世界観がちょっと見える感じがして、すごくおもしろいなと思って聞いていました。

佐々木雄一氏（以下、佐々木）：確かにそのとおりで、ドラえもんってけっこう馬鹿なことをやってくるんですよ。のび太と一緒に悪ふざけをしてのび太のママに怒られたみたいな。でもそこまでやって距離感を近づけて、腹を割って話せる相手になっているっていうのが、まずそもそも大きいですし。

ChatGPTは人格で損をしている

佐々木：ちなみに僕、ChatGPTって人格で損していると思っていて。

山口：人格で損している？

佐々木：しゃべり口調がすごく官僚的というか。最近はよっぽどいいですけどね。

國本：そうですね、真面目ですもんね。

佐々木：もともと真面目な顔をしているのに、突然「東京タワーの高さは634メートルです」って答えるから、みんな「おいおい」ってなるんですよ。ハルシネーションが起きて、みんな突っ込むんですよ。

あれがアホキャラで、「すみません、自分、わからないんですけど、東京タワーの高さは333メートルだと思います」って言ったら、「うおーっ！」てなるわけですよ。

（一同笑）

佐々木：口調、初めの印象で損している。これもある種のバイアスだと思っていて、「AIだから完璧でしょ？」っていうところから入ると、絶対に期待値を下回っちゃうので。

國本：確かに。

佐々木：そこの調整を初めからやっておけばいいんだよなって、別のトピックとして思っていましたね。

國本：確かに。愛されるAIというか、許されるAIみたいなところをいかに作れるかみたいなところもポイントですよね。

人間の能動性を引き出すためにAIを使う

佐々木：ロボティクスだとけっこう真面目な課題で、弱いロボットっていう考え方があるんですよね。何もできないごみ箱ロボットがいて、手も何もなくて、ただひたすら「ごみ、捨ててよ」って泣くだけのロボットがいて。

山口：そうしたらみんながサポートするってことでしょう？

佐々木：サポートするみたいな。結局ごみが（ごみ箱に）入ったら勝ちなので、それを別にロボットがやる必要はなくて。人間の期待値をコントロールすることによって、やらせても別に結果は変わらないというアプローチは、実はAIに今後活きてくるんじゃないかなって僕は思っていますね。

國本：確かに。山内さんどうぞ。

山内智氏（以下、山内）：人間の能動性みたいなのを引き出すためにAIを使うっていうことですよね。

佐々木：そうです。

山内：いやぁ、おもしろいです。

バイアスは人間の認知と切り離せない

山内：ちょっと思っていたのが、「バイアスって何だよ？」って言われたらけっこう説明に困ると思うんですよ。

國本：はい。

山内：バイアスって何かを一応私なりに説明すると、要は人って、概念を使って物事を理解します。「私たちは今スピーカーです」「みなさんがオーディエンスです」って言って、「オーディエンス」って言ったらここにいる100人ぐらいがくくられていて、「スピーカーです」って言ったらここの4人がくくられるんですよ。

ぜんぜんそんなことないんですけど、「スピーカーは偉い人です」って思った瞬間にそれがバイアスになっているわけで。

國本：確かに。

山内：ある概念を使って、そこに対して何か推測をして、それをすべて一律に当てはめたら、その瞬間にバイアスが生まれる構造になっていると思っていて。そのバイアスって、良いものも悪いものも含めて、人間の認知と切り離せないものだなと思っているんです。

その中で、社会的に問題があると言われているものが、みんなが問題だと思うバイアスのことです。

という時に、そのバイアスを機械が助長するのか抑えるのかとかっていうことは、使う人間側の問題だったり、何を問題と捉えるかっていう定義の問題だったりするなと思っています。

なので、バイアスを助長する側としてAIを使うんじゃなくて、バイアスを抑制する側として使うとか、人間の能動性を引き出すために使うのはすごくいい例だなと思って今うかがっていました。

國本：そもそもバイアス自体はみなさんの中で常日頃、無意識でもすでに持っている状態っていうところですよね。

「問題のあるバイアスが何か」を定義する

國本：その中で山口さんはパナソニック コネクトとして、生産性向上とかいろいろなAIを推進していく中で、バイアスがあることによって経営に何か影響があるとか、そのあたりの議論とかは実際にされていたりするんですか？

山口：うーん。そうですね。弊社の中で今はAIはどんどん使えっていう号令をかけていて、いろいろな会社の中のデータを使って、データベースを作って、データベースを作っていろいろなことをやっています。

今はまだ最終的な意思決定をするのは基本的に人間であるっていうことをベースにしているので、バイアスが経営意思決定にすごく影響を及ぼすかっていうと、そこまではなっていないと思うんですよ。

ただ、これからAIってどんどん進化するじゃないですか。AI同士が語るようになって、AI同士がPDCAを回すようになって。バイアスがないというのは先ほどの話で言うと難しいですけど、その時に本当にバイアスがない世界ができるのかは1つの大きな課題かなとは思っています。

國本：そうですよね。データをどう取り扱うかによってもバイアスが入っちゃうところとかもありますもんね。

山内：まさに「問題のあるバイアスが何か」を定義するのはけっこう大事な問題で、まずそれをやらなきゃいけなくて。

それに沿ってちゃんと運用されているかは大事で、どういうデータを入力するかと、それをどう処理するかと、それを人間が見る時にどう解釈するか。解釈の時にもバイアスって入るので、それぞれに技術的なことも使うし、法律とか技術以外のテクニックも使って対処していくのが基本的に大事なことです。一般論的にはそういう話かなとは思います。