進化したAIの姿は「美少女とゆるキャラとネコ」？　深津貴之氏が想像する、未来のAIエージェントの生存戦略

AIの発展を妨げる、エネルギーの問題

メンタリストDaiGo氏（以下、DaiGo）：ここまでは、今みなさんが（AIを）どう使っているかとか、2024年に何が起きるかという話をしました。今回は専門家の方もいらっしゃるので、ここからは、例えば3年とか5年、10年先にどうなっていくのかというお話をちょっとお聞きしたいと思います。どうでしょうか？

茶圓将裕氏（以下、茶圓）：じゃあ、サンフランシスコニキからいきましょうか。

あおちゃんぺ氏（以下、あおちゃんぺ）：サンフランシスコニキから（笑）。

DaiGo：たぶん3年だとあれだと思うんですけども、5年とか10年とか先で考えると、けっこう予測が当たりやすくなる気がするんですよ。

渡辺圭祐氏（以下、渡辺）：どう使うかですよね。今の段階で言うと、AIを作るにしろ、動かすにしろ、やはりコンピューティングの制限があって、そこの供給がありますよねという話があって。

今NVIDIA（米大手半導体メーカー）が有名ですよね。ただ今って「Transformer」というモデルを使っているんですけど、そもそも効率が悪かったり、NVIDIAのGPU（Graphics Processing Unit：画像演算装置）の電力的な問題があって、性能の限界よりも「電力が足りません。どうしますか？」みたいな電力の限界の話が出てきているんですが、まずそこが進みます。

LLM自体の省力化が生まれ始めている

渡辺：さっき言いかけたんですけど、みんな結局どこでAIを作って動かすかという話で、もちろんNVIDIAだったり自分で半導体を持って自社で動かすのはあるんですけれど。

結局はやはりクラウドプロバイダー化していって、例えばMicrosoft AzureとかGCP（Google Cloud Platform）で動かすみたいな話になってくる。

最終的には、今あるクラウドの開発環境のパッケージの上にAIが載ってきて、みんなそこで動かす。かつ、そもそもスマホで取っているデータとか、新しくAIで取ったデータを垂直統合して「全部レコメンドできますよ」といった世界になるのかなと思っていますね。ちょっと答えになっているかわからないですけど。

木内翔大氏（以下、木内）：今コンピューティングの話がありましたけど、さっきの松尾豊さんのお話でも出ていた、LLM自体の省力化が生まれ始めているんですよね。

渡辺：そうですね。確かにTransformerは今、GPUだったり裏側で動いているモデルなんですけど、やはりムダが多かったりするので、いかに効率化するか、省電力で動かせるかという話が出てきています。

「今の大規模言語モデル自体が正直言ってムダ」

本田崇人氏（以下、本田）：というか、Transformerどころか、今の大規模言語モデル自体が正直言ってムダなんですよ。

茶圓：ムダなんですね。すごい極論が来ましたね。

本田：本当にムダなんですよ。莫大な計算リソースを使って、大規模なパラメーターを学習させてというのは、古典的な統計学で証明されている内容とは反しているんですよ。

木内：なるほど。

茶圓：へえ、そうなの。かなり効率が悪いか、燃費が悪い……。

本田：かなり燃費は悪いですね。例えば、すごく古い研究なんですけど、数学的に証明されているものでいくと、だいたいそういうニューラルネットワーク（生物の学習メカニズムを模倣した機械学習手法）というのは2層で十分だと言われていたんですね。

茶圓：2層でいいんですか。2層だったら深層学習って言わないイメージですね。

本田：そうですね。パーセプトロン（コンピュータが物事を判断するためのシンプルなルールの1つで、単純パーセプトロンは2層からなるもの）ぐらいの感じなんですね。他の多くの研究者は、ChatGPTとかそういった概念を、「どうせ過学習に陥って性能上がらんやろ」って思っていたはずなんですよ。

理論よりも先に実験が追いついちゃった状況なので、単純にこのまま5年10年と性能は上がっていくと思います。それと同時に裏側では、その性能が上がることを保証して、さらに性能を伸ばすための理論的な部分もどんどん強くなっていくんじゃないかなと思います。

エネルギー問題が解決したら、AIはどう進化する？

茶圓：なるほど。省力化で言うと、やはり電気代がけっこう肝じゃないですか。今、サム・アルトマンさんが上場準備をさせているオクロという（次世代原発の）会社が、核融合でめちゃくちゃ安価に電気を作ろうとしています。もしそっちができたらどうですか？　電気代がフリーになったとしたら、けっこう進むんじゃないかなと思うんですけど。

本田：いや、電気代が安くなったとしても、結局その後、「じゃあもっと大規模に」となっていくときりがないので。もっと根本的な、地に足のついた生成AIや大規模言語モデルの研究をやっていかないといけないなと思います。

DaiGo：たぶん配信を見ている人は電気代の問題がどういうことかわからないと思うので、言っておいたほうがいいですよね。今の基本的なエネルギーの技術って、例えば1のエネルギーを投入すると、0.6とか0.7ぐらいしか取り出せないんですよ。

例えば物を燃やしたら熱とかで離散しちゃって、結局1のものを燃やして0.7しか取れない。AIをうまく回すためにエネルギーをくべるとロスがどんどん出ていっちゃって、極論を言うと、地球をすべて燃やし尽くすみたいな。だからそのエネルギーの問題のせいで、どこかで発展が止まるよねというのが今の話です。

今核融合の話が出ましたけど、ちょっと前に話題になったのが核分裂じゃなくて融合の実験ですね。その発電ができると、例えば1のエネルギーを投入すると、1.1とか取り出せるんですよ。

茶圓：それ、すごいですね。

DaiGo：ということは、1をぶっこみ続ければ、理論上はエネルギーが無限に増えるじゃないですか。今はコスパが合わないんですけど、その増えたぶんのエネルギーをAIに全部ぶっ込んでいったらAIが成長していくよね、という話なんですよね。だから、エネルギーの問題がなくなったらどう変わるのかということでした。

AIの専門家たちが思い描く未来

DaiGo：専門的な部分の話は、今すごくすくってもらったと思います。みなさんいろんなトップの人と話すと思うんですけど、最先端にいる専門家の方から見た時に、技術の面以外では、AI業界の人たちって何を目指しているんですか？

10年後に「こういう未来を作りたい」と思って、今いろんな作業をされているわけじゃないですか。どういう未来を考えてやっているのかなということが気になりました。

本田：直近のお話でいくと、まずは普及だよなとは思っています。その先なんですけれども、最終的には、正直僕は人の意識とかに興味があって。

DaiGo：おお。

木内：へえ、いいですね。

本田：今って、ChatGPTに話しかけたら返してくれるじゃないですか。けど、自ら話しかけてくることはないですよね。それはなんでかと言うと、自分で思考しているとか意識があるわけではないんですよ。

だから論理的な思考とかじゃないので、自発的に自分の脳みそ、つまり電力を消費するようなAIが将来的に開発できたらいいなと思っています。ユースケースはまったく考えてないです。ただ僕が興味があるからっていうだけなんですけど。

意識を持ったAIを作るには

茶圓：ふうん、意識か。でも今はがんばって画像解析ができるじゃないですか。人の顔を見て、困ってそうだったら「どうしたんですか？」（と声をかける）みたいなことは、裏でワークフローを組んだらできそうなんですけど、それは「意識」って思います？　すべてパターンを埋め込んでおいたら、能動的に会話もできなくはないと思うんですけど。

本田：それは難しいですね。例えば人間も、何もないところから発言するかと言ったら、五感から情報を入れて、それをインプットにして何かを返していると思うんですね。

DaiGo：確かに。

本田：なのでそこは難しいなと思うんですけど、じゃあ僕の五感が失われて、目も見えないし、声も聞こえないし、体の感覚もないってなったとしても、たぶん意識はあるんですよね。考えていると思うんですよ。その考えちゃっている状態が、今のAIにはないかなと思っているので、そこが難しいなと。

DaiGo：外部刺激がなくなると、やはり……。

深津貴之氏（以下、深津）：逆に質問なんですけど、バッチプロセスを組んで、「5秒ごとにアップデートとか状況を考え直せ」というpingだけ打っておけば、いったん成立はしませんかね？

本田：それ、めっちゃおもしろいと思ってます。AIが動いているモデルのコンピューターに、バッチで5秒ごとぐらいにpingを打ちまくっていたら、実は何か考えてたということがあるかもしれないですよね。

それが正しいかもしれないと思っているんですけど、正しくないかもしれないと思っていて。なんでかと言うと、人間の思考とか意識の根源は一部わかっているけど、まだ理解されてないと思っているんですよ。

なのでAIの発展とともに理論的な土台の構築と、脳科学や心理学といった多方面での研究の発展も大事なのかなと思っています。

AIが勝手にお金を稼いできてくれる世界線も

木内：じゃあ意識の議論は10年先だとして、5年先だと、抽象的なタスクを渡したら「はい、わかりました」と言って完了までやってくれるエージェントみたいなのが、やはりキーワードになってくるじゃないですか。今GPTはGPTで完結しているけど、いろんなツールをまたいで実行して、優秀な部下になってくれるみたいな未来ってすぐ来るんですかね？

茶圓：2024年、2025年ぐらいに……。僕は実行権限の幅にけっこう注目していて、今（AIに）「ブログを作っておいて」と言って作ってるんですけど、ブログを作って何回もアップして勝手に改善して、みたいなことまでできると、ほっといてもAIがお金を稼いでくる世界線になると。

DaiGo：自分が書いたものじゃないものになっているという。

茶圓：そうですね。（それができると）おもしろいかなと。僕が次に注目しているのは、AIが資本活動をしてくるかという観点。

AIが実行権限をかなり持った体ですけども、例えば「クラウドワークスに勝手にログインしてアカウントを作って、勝手に記事を書いて納品してきてお金をもらいました」となったら、これはけっこう革命やと思います。次はどこまで行けるのかなというのはすごく（注目しています）。

DaiGo：すごくディストピア感があっていいですね（笑）。

茶圓：けっこう今、OSレベルでもOpen Interpreter（大規模言語モデルを活用したオープンソースのAIアシスタントツール）とか。一部分ですけども、一応アプリとかウインドウを操作できているので、その延長でできるんじゃないかなとは思っています。

木内：あとはMicrosoft Copilotとか、ワークフローの統合ツールを大手がやっているので、そこがツール間を連携してくれて、ひととおり完了してくれる。しかもOSをMicrosoftは持っていたりするので、OSの自動操縦は確実に4～5年でできるんじゃないかなとは思いますよね。

進化したAIの姿は「美少女とゆるキャラとネコ」？

木内：エージェントみたいなテーマで言うと、深津さんはどうですか？　

深津：エージェントですか。僕ね、ディストピア的な話で言うと、AIが進化する方向として、「美少女とゆるキャラとネコ」みたいなのばっかりがどんどん市場に増えてくると思います。

要は自然淘汰とか進化とか市場原理を合わせていくと、飼われやすいAIほど残ったりコピーしやすいし、消されにくいAIほど残りやすいわけじゃないですか。

だから、何世代か繰り返していくと、かわいくて愛着があって、家族みたいに思えて、解約や消そうとするのが罪悪感がある方向に、勝手に自己進化していってしまう。

DaiGo：（笑）。

茶圓：おもしろい。自己防衛的に進化するみたいな。もう人間ですよね。赤ちゃんもかわいいので。

深津：赤ちゃんだったりゆるキャラだったり。

あおちゃんぺ：美少女でネコってことは、ドラミちゃんですか？

深津：みたいなのも来るかもと。

DaiGo：（笑）。

深津：あとはピカチュウみたいのもそうですけど。なので、みんな（AIと言うと）ターミネーターみたいなマッチョなガイコツが攻めてくると思っていますけど、たぶん人類に攻めてくるのはゆるキャラだと思う。

茶圓：ドラミちゃんが大量に襲ってくるみたいな。

深津：「かわいくて倒せない！」みたいなやつが。

茶圓：そうなったら無抵抗で受け入れそうですね。

渡辺：実際ペットも、家畜化実験でかわいいやつが残っちゃって、かわいくなっていくじゃないですか。なので、そういうことはあるんじゃないかなと（笑）。

DaiGo：ネコ科最強の動物であるイエネコは、人間に飼われることで生き残ったという話がありますからね。

渡辺：そうですよね。