AIにバイアスを加えたらどうなるのか？　組織の意思決定にも関わる「公平性」と「個性」 [2/2]

バイアスなき意思決定

國本：ではさっそくテーマに入っていきたいなと思っております。「バイアスなき意思決定」というところで、今AIがどんどん進んできている中で、AIが生み出す意思決定自体を、社員の方の中でけっこう鵜呑みにしちゃう方もいらっしゃるというようなお話であったり。

あとは、経営層としてもAIが出したものをどういうふうに意思決定として使っていくのかもあるかなと思っております。

最初にみなさんが今社内の中で生成AIを使われていたりとか取り組みをされていらっしゃるところについてお聞かせいただきながら、その中でどういうふうに苦労されていらっしゃるのかといったところもおうかがいできたらなと思っております。

HRにおけるAI活用

國本：まずHRの領域からというところで、山内さんから取り組みについても教えていただけますでしょうか？

山内：HRでデータを活用するっていうところでは、いろいろな活用の仕方があります。バイアスに関わるところでいくと、それも複数あります。

先ほどお話ししたのが360度評価のバイアス除去技術というもので。360度評価をご存じの方は多いかもしれないですけど、上司だけじゃなくて、同僚とか部下の人からも従業員に対して評価を行います。

点数を高めに付ける人とか低めに付ける人って、別に何の悪気もなくいるんですけど、でもその基準が揃っていないと、単純に平均点を出してもあまり参考にならない数字になっちゃう。

それを評価に使うってけっこう厳しいものがあるんですけど、それを統計的な技術を使って、バイアスを除去することができるようになったというものです。これを使うと、人事の評価のフェアネスみたいなものが向上していくからいいかなと思っています。

ちなみにほかでいくと、会社の中の意思決定のためのデータ分析には、実はいろいろなところにバイアスがめちゃめちゃあります。データ分析に携わった方はみなさんご存じだと思いますけど、相関と因果を取り違えるとか、いろいろなバイアスに関わる因子が入っていたりとかっていうのがあるんです。

そういうところは、例えば因果推論っていうデータ分析のテクニックでバイアスを低減してアウトプットするみたいなことができて。そういうことにも取り組んでいたりします。

國本：ありがとうございます。

人間にはバイアスが存在する

國本：今のお話の中で、山口さんは人事として判断をするとか設計する側になっているかと思うんですけれども、評価のバイアスのところについて、おうかがいしてもよろしいでしょうか？

山口：評価って人間がするじゃないですか。むちゃくちゃアンコンシャス・バイアスがありますよね。

2024年12月に『日経新聞』であるニュースを見たんですよね。東大の山口（慎太郎）先生という方がおっしゃっていた記事だったんですけど、中国の囲碁教室で年配の男性の方が教えていたら、男性がすごく多く育ったんですって。これをAIの先生が教えたら、女性の実力がメキメキ上がって、男性と実力が変わらなくなったっていうケースがあったんですよ。

これは何かっていうと、結局やはり教える側のバイアスがある。これと今の360度の評価ってすごくつながっている部分があるような気がしていて、人間って、評価する時や教える時にどうしてもバイアスがあります。それをAI、ある意味バイアスがないものをかませることによって、実はものすごくフェアな世界が作れるんじゃないかと思うと、すごく可能性がありますよね。

山内：そうですね。

AIがバイアスを除去する

山内：360度評価とのアナロジーでいくと、要は上司だけが評価していたら、その上司のバイアスに引っ張られちゃうんだけど、同僚とか部下の評価も総合したら、より複眼的でフェアな評価ができるよね。さらにそのデータに技術をかませたというのが私の話だったなと。

それと、今日のテーマと今の事例は逆かなと思っていて。要は人間よりAIのほうがフェアじゃんと（笑）。「そういうAIの使い方もあるよ」っていう、すごくいい例だなと思ってうかがいました。

佐々木：だからおもしろいですよね。「ウィキペディア」とか、いろいろなデータを学習させた結果として、一番もっともらしい次の単語を選ぶというのがLLMの基本の仕組みにあると思うと、一番バイアスのないことを言ってくるのが実はAIである。今はむしろ人間のほうがバイアスがあるから、その部分をAIが除去するっていう方向。だから意外とこのタイトルの解釈は難しいんですよね。実は逆なのかもしれない。

國本：逆になるかもということですね？

佐々木：はい。

バイアスが少ないLLMにバイアスをかけにいく

國本：佐々木さんのほうで今やられていることも含めて、ぜひみなさんにシェアいただきながら、この「バイアスとは？」についてもお話しできたらと思います。

佐々木：僕の場合はむしろ人間の個性のバイアス、意図的にバイアスを作り出すことによって個性を作り出そうという立場なんですよね。だからどっちかというと除去されるべき対象を作っているみたいな（笑）。そういう感じになるんですけれども。

例えば、財務諸表があるという時に、それを僕が見た時とイーロン・マスクが見た時、もしくはほかのすごく堅実な会社の社長が見た時って、たぶん解釈が変わるはずなんですよね。

イーロン・マスクだったら「もっと攻めろ」「リスクを取らなきゃダメだ」みたいなことを言うかもしれないし、僕だったらおっかなびっくりでいろいろ考えるかもしれない。日系のすごく保守的な社長だったら、もっと別のコンサバな見方をするかもしれない。

見方の個性みたいなものはそもそも存在します。どれが正解っていうことはないと思うんですけれども、それが多様性を生んでいておもしろい発想を生んでいる。それに逆にAIを入れ込むっていうのが我々がやっていることで。

我々の場合は、個性とかキャラクター性を埋め込むために、バイアスがもともと少なめなLLMに対して、アラインメントっていう技術を使って追加でバイアスをかけにいくんです。

個性を再現するためにバイアスをかけにいくということをやって、弊社の場合だと、キャラクターを作るとか、ゲームの中で使うすごく悲観的なキャラクターとか、めっちゃポジティブなキャラクターとか、そういうのを作ることをやらせていただいています。

バイアスがかかったAIは極端なことも言ってくる

國本：ちなみに、ユーザー側の評価とかをテストするために、バイアスを導入しているゲーム会社さんとかが多いと聞いていますが、そこからの評価ってどうですか？

佐々木：使ってみてもらうと、「なるほど、こういう世界観なのね」「人間ってこうだよね」って言っていただけます。

例えば、ある占い師の方を再現しようとしたことがあるんですね。もともと「GPTそのものでも占い師できるじゃん」ってみなさん思っていらっしゃったんですよ。ただ、GPTだとどうしても丸い感じになってしまう。あまり極端なことを言わないんですよ。

ただ我々の作った、ちょっとバイアスがかかって再現した占い師のAIだと、「あなた、それじゃダメよ」「そんなんだとどうせろくな人生を歩まないわよ」みたいな極端なことを言ってくるんですよ。

（一同笑）

佐々木：怒ってくるんですよね。怒れるというのは、ある種のバイアスというか。「そういうスタンスの方なんだな」みたいなところを再現すると、「あぁ、わかるわかる。人間ってこんな感じだよね」「話のうまい人ってそこまで踏み込んで距離感を近づけてくるよね」みたいなことをおっしゃっていただくので。人間は意外と気づかないですけど、バイアスは大事だなっていう感覚ですね。

國本：ちなみに今占いの話がありましたけれども、具体的にそれによっていいこと・悪いことみたいなものも出てきたりしているんですか？

佐々木：悪いことは、それこそ極端な、言っちゃいけないことを言うとかしれない可能性は出てきますけれどもね。そのあたりのライン引きは難しいんですよ。

コミュニケーションって距離感を近づける作業なので、自己開示の作業になるんですよね。そのためには自分もそうですけど、相手にどこまで深く踏み込むかみたいな。

浅瀬でチャプチャプの議論じゃなくて、例えば相手の生い立ちにまで踏み込んで話をするかみたいなところがあるので、その距離感が近づき過ぎると嫌だなってなっちゃうところもあったりする。だからそのあたりの線引きの設計は単純に難しいですね。