「ChatGPTは嘘をつく」と語る人が抱いている、ある”幻想”　生成系AIと人間の脳に共通する「創作」の仕組み

ChatGPTのすごいところは、高い「推論能力」

堀田創氏（以下、堀田）：とはいえ残り時間が5分ぐらいになってしまったんだよね。そっち（後半のパートに）いったほうがいいかもしれないです。

植野大輔氏（以下、植野）：じゃあそろそろここの、本の内容とそこに書いていない話、それから我々の進化系、この1年半の差分を、短い時間ですけど共有させていただいた上で、私達の本『トランスフォーメーション思考』の宣伝です。

『トランスフォーメーション思考 未来に没入して個人と組織を変革する』

この対談を聴いた上で『トランスフォーメーション思考』を読んでいただければ理解が500倍高まるし、「書いていることと言っていたことが違うな」と言う部分に、我々の進化を感じ取っていただけると思っています。

それでは、今日のタイトルでもある『AI時代』のAIについて、私も、堀田さんからもっと詳しく教えていただきたいなと思います。ChatGPTはもうご専門で。

堀田：ChatGPTがけっこうすごいなと思っていて、簡単に言うと、これを使うとMTP（Massive Transformative Purpose、野心的な革新目標）がどんどんできていく。デモをできればなと思っています。

植野：この本の大事な概念の1つであるMTPを、ChatGPTに作らせるという話ですか？

堀田：そうです。なので未来思考をやろうと思った時にどうやって未来思考やっていくのかを自分で考えるとけっこう辛いので、ChatGPTを使うとけっこうできちゃったりするんです。

植野：究極のインチキをしている感じですけど、ChatGPTでできてしまうと。

堀田：そうそう（笑）。その前提として、1個だけ説明をしておきたいのは、ChatGPTは質問したら答えてくれるんですよね。意外とまとめ能力が高くて、例えば、「ChatGPTが衝撃的であった理由の最大のものを2つに絞って述べてください」と質問すると、述べてくれる。やはりこの推論能力というか、ここがやはり生成AIというか、ChatGPTのすごいところだったりします。

生成系AIは「聞かれたら答える」だけで、因果に縛られているわけではない

堀田：ちなみにGPT4を使うべきですけれども、4だとこれぐらいのレベルの回答ができるんですね。ここ（ChatGPTの回答）には「高度な自然言語理解と柔軟な応用範囲」と書いてあるんですけど、判断軸を答えることもできるんですね。

「なんでこの2つを選んだの」「その2つを選んだ理由を教えてください」と質問すると、ちゃんとその要因ですね。重要だと判断した前提条件として、やはり「人間とコンピュータのコミュニケーションの質と応用範囲の広さが、技術革新のインパクトに大きく寄与する」と。

ここがポイントなのではないかとChatGPTは考えているわけですね。これぐらいのレベルの知能がAIにあるのは、なかなかおもしろい話なのではないかなと思っています。

で、この逆。「では反対に重要ではない要因は何ですか」というと、「直接的にユーザーとあまり関係ない、例えば学習データの量だったりとか、学習時間だったりとか、モデルのサイズ」とかが選ばれる。

「なんでそれを重要ではないと判断したのか」というと、やはり実用性、「ユーザーエクスペリエンスに与える直接的な影響がないから」と答えている。一見するとChatGPTって、いろいろちゃんと考えて書いているんだな、と見えるわけですよね。

ここからがけっこうおもしろいんですけれども、ここからこの質問がキラークエスチョンになります。「これらの要因はあらかじめ決まっていたのか」。「それとも僕が聞いたので生成したのか」、こう聞くわけです。

そうすると、「正直決まっていなかった」。ただ「僕が聞いたので答えてみた」と答える。それが現実になっています。これは何を言っているかというと、僕らは因果みたいなものにすごく思考が縛られるんですよね。

だから「こういう判断軸だったからこう答えたのか、この人たちは」と僕は信じてしまうわけですけど、生成系AIは、嘘ハッタリをずっとしゃべり続けているというだけだったりします。だからその意味で言うと、とにかく聞かれたら答えるのであって、別に元からそうだったとか、そういうのは特にないんですね。理由なんてものは特になかったと。

「決定論」と「生成論」の違い

堀田：「『生成』は、今までの我々の決定論的思考を覆す」。決定論とは、「こういう前提があったからこういうことが起きています」とか「こういう条件だとこうなります」みたいに、因果に縛られる考え方を決定論というんです。

生成論はちょっと違って、何かを聞かれたらとにかく答えるという、後出しじゃんけんみたいなものです。（次のスライドの）これなんかが、まさにそのとおりなわけですよね。

「あらかじめ決まっていなかった」「だけどとりあえず答えたらそうなった」と。未来思考なんて、そんなものでいいんですよね。別に僕らは未来が見えていて、それが決定されているのでそこに行くとかそんなものではなくて。未来を聞かれたらとりあえず答える。そうやってボコボコ答えていけばいいだけだし、それでピンときたやつを採用すればいい。

植野：なんとか総研とかに創ってもらった800ページぐらいのレポートを読み込んで「未来は、こうで、こうで、ああで」「だからつまり10年後、20年後はこうなるんだ」とか論理的に未来を導き出さなくていいんですね。突拍子もないことを言ったら、「お前、それはどこのファクトで言っているんだ」とか突っ込まれても、そんなことは気にしなくてよくて、もう今思いついてしまった未来が、いったん正でいい。

堀田：うんうん。まさにそれがポイントで、この仕組みが、僕らの脳とぴったりです。

例えば、パートナー、旦那さんや奥さんが怒っている。その怒りのメカニズムを考えた時に、怒りってどうやって起きるかというと、何か理由があって怒っているのではないんですね。脊髄の上にある小脳で、まず怒るんですよ。

怒った時に、怒っていることに対して説明をしないといけないじゃないですか。「なんで自分は怒っているんだろう」ということで、おでこの近くのあたりにある前頭葉という場所が、「なんで自分は怒っているんだ」と、創作物語を始めるんですよね。

その結果、怒っている理由が、怒ったあとに決まるんですよ。「あっ、自分はこれに怒っているんだ」と思うわけですね。

植野：これはよく言う、おもしろいから笑うのではなくて、笑っているからおもしろく思えるんだよ、ということと一緒ですかね。

堀田：めちゃくちゃ似ていますね。

「それでよくない？」がトランスフォーメーション思考のポイント

堀田：自分が小脳レベルで感じている感情に対して前頭葉がストーリー付けをして、そのストーリーって生成しているんですよね。なので、怒っている理由なんか全部嘘です。

だって、怒っているのは、小脳系に対する脳内物質の刺激があったからです。「なんで自分はこれが嫌なんだろう」ということが、当時はわからないんですよね。それが1秒、2秒ぐらい経つと、6秒ぐらいでだいたいわかってくるんです。

それでわかったという気になっているんだけど、実は生成しているんですよね。だから、同じことが起きても理由が変わります。なんで怒っているかって、「（パートナーが）ずっと寝ているのが嫌だ」みたいなことを言っているんだけど、実は「（自分の）体調が悪かったです」とか。

でも怒っているということに対して何か理由を作りたくなってしまうので、「ずっとこいつが寝ているから僕はイライラしているんじゃないか」みたいに、理由を生成し始めるんですよね。人間の因果なんてものはその程度のものです。それが整合していると思えば、そこで臨場感を感じる。だからおもしろいじゃないですか。

怒っていて、本当は自分がちょっと熱っぽいという理由でイライラしているのに、「旦那さんの顔がむかつく」みたいに理由がすり替わっているわけですよね。なので「なんでこんな心配していないのか意味わからない」みたいな感じで、それが怒りとなって、その理由が「旦那さんの顔がむかつくから」と生成されるんですよね。

理由が生成されたものに対して僕らは臨場感を感じているので、自分が体調が悪いからではなく、旦那のこの顔がむかつくから怒っているのではないかとだんだん勘違いし始める。これが人間の脳です。

だとすると、別に生成されたストーリーでも、「それでよくない？」がトランスフォーメーション思考のポイントになっていて、とにかくそれを信じることができれば何でもいいんですよね。

だって人間、すべての思考が全部その程度でしかないから。それがChatGPTと相性がいいなって思っているんですよ。

「ChatGPTは嘘をつく」と思うのは、「理由が存在する」という幻想を抱いているから

堀田：なのでChatGPTでブレストするのはけっこう効果的です。それが正しいか正しくないかみたいな話で言った時に、人間の脳だってどうせ正しくないんですよ。

植野：だからいい加減なもの同士うまく仲良くやりなよ、ということですかね。

堀田：そうそう。理由なんてものが存在するなんて、謎の幻想ですよね。そんなことを思っているから「ChatGPTは嘘をつく」みたいなことを言っているんだけど、どうせ人間の前頭葉だって嘘しかつかないので。だったら嘘をつくもの同士でブレストしたら、それは臨場感を得られる。これがポイントになるかなと思っています。というところまで振りかぶった上で最後、デモで締めていければなと思います。

堀田：僕のほうでChatGPTを出していきます。ChatGPTのPLUSを使うのがポイントです。GPT4でないとなかなかここまで高度にいかないので。1個目は、この（スライドの）質問を書いていきます。チャット欄にも貼っていこうかな。テンプレを作ったんですけれども、この3つのポイント（大きな問題、使うだろう技術、解決したらできる世界）を押さえるように、キーワードを列挙していきますね。

ここで言うと、「地球規模の災害」とか、例えば「トランスフォーメーションの速度が速すぎる」「レジリエンスが個人レベルから会社レベル・地域レベル・国家レベルひいては地球レベルまで重要となる」、こんな感じの問題を書いていくわけですね。

それで使うだろう技術は生成系人工知能だったり、創薬技術だったり、食品系の技術、フードテックですね。ドローンとか。あとは何かあるかな、3Dプリンティングですね。

それで解決したらできる世界が、例えば「世界中の人が地球規模の災害や、不安定な社会に負けないほどのレジリエンスを獲得して、もっと自分らしく生きられる社会へ変革をしていく」みたいな感じで、さっきのテンプレをこう書くわけですよ。

思いついたことをいろいろ全部書いていく。ここから想起されるMTPを、サンプルを5個ぐらい列挙してみてくださいとタイプすると、ちょっといい感じの文章が出てくるわけですね。

「地球規模の災害に打ち勝つ共有レジリエンスの創出」、僕は共有レジリエンスなんてキーワードを出したことはなかったんですけど、今ChatGPTが出してきた。ちょっと短いので、「もう少し長く書いてください」と打つと、もう少し長く書いてくれるのかな。

植野：（ChatGPTの返答を読み上げて）「もちろんです」。

堀田：（笑）。（画面にChatGPTの回答が表示され）こんな感じですね、ちょっと長くなっている。「すべての人が自分らしく生きられる、持続可能かつ強靭な社会の実現」とか。この2番目の答えがいいなと思ってしまいました。

本来だったらちゃんと（AIの回答が終わるまで）待ったほうがお得ですが、この答えに対して、3つ目にこんな文章（「上記のMTPについて、ここからさらにMTPを具体化・洗練化したいのですが、何を明確化したら良いか、5個ほど質問してください」）を追記していきます。

ChatGPTに「問い」を渡せることまでできてしまう

堀田：今度は逆質問になります。ChatGPTから僕らに質問してくるんですよね。これに答えて、さらにこれを踏まえて「MTPを洗練化させてください」とやっていくと、どんどん大きくなっていく。まさにこれがChatGPTを使ったブレスト。

これって（ChatGPTの答えが）ちょっと良いことを言っている感じがあるじゃないですか。もともと僕はここまでシャープには伝えられなかったけど、例えばどんな要素を含みますか？ みたいな質問を書いていって、「それを元にもう1回MTPを100文字、200文字で書いてください」とやるとさらに答えを出してくれる。

これのいいところが、ChatGPTに質問させる。その質問をもとに洗練させて、それをさらに洗練させるためにもっと質問して、これを2、3回繰り返していくと……。

植野：ここは、人間ががんばって5個答えを書いてみて、「これを使ってMTPをまた洗練させてください」みたいに投げるんですか？

堀田：そうです、まさに。

植野：それでやり取りして壁打ちをやっていくわけですね。

堀田：そうです。これを通じてやっていくと、特にこれがキラーですが、僕ら自身が質問に答えるために思考するんですよね。だからChatGPTに思考させる、それで質問を考えさせる。僕ら日本人は聞かれると答える性質があるので。やはりChatGPTは「質問を考えてください」というこの問いかけが実はけっこうすごい。

植野：問いを渡せることまでできてしまうわけですね。

堀田：これを使って問わせると、僕はそれについてちょっと真剣に考えるわけですよ。「確かに自分らしくって何だろう」みたいな。「他人軸では生きない」と書いたりすると、その考え方がまた向こうに伝わって、その思いがMTPに反映される。

それとともに、僕が頭を使っている状態は、MTPに対して臨場感を感じている状態なので。質問に答えている時に僕の臨場感が上がっていく、ダブルの効果があって、ChatGPTMTPをおすすめしています。すみません、だいぶ時間が過ぎてしまいましたけど、デモでございました。

植野：ありがとうございました。ということで本の内容を、全部おさらいというか見ていきながら、最終章はこの『MTPを作る』だったんですけど、本を出した時はChatGPTなんてこれほど実装レベルではなかったですから、しかもそのAIを使ってMTPを作るデモまで、最先端の使い方を堀田さんからガイドいただきました。