AIの性能が「高校生→社会人」に数ヶ月で一気に進化の衝撃　AIに強制停止ボタンは必要か？アメリカで進行中の議論とは

京都市長・松井孝治氏のライフワーク

入山章栄氏（以下、入山）：松井さん、ここまでの話を聞いてどうですか？

松井孝治氏（以下、松井）：私のテーマの1つは、公共を捉え直すこと、つまり「パブリック」というものを再定義することなんです。これまで役人として、そして政治家としての経験から、パブリック＝官僚や政治という固定観念を持っていました。官僚がルールを作り、税収を財政でどう再配分するかを決める。それが公の役割だと考えていました。

しかし、阪神淡路大震災などの経験を通じて、公と私、官と民の役割分担をどう変えていくかを考えるようになりました。特に最近は、政治がどんどん悪化していると感じます。私が政治家をやっていた頃よりも、今はさらに信頼が失われています。

本来、公私官民の境界をどう取っ払うかが重要なのですが、民主主義という制度の中で、政治家に依存しながらも批判するという矛盾が生じています。この矛盾をどうつなぎ直すかが、私のライフワークの1つです。

だからこそ、大学では官僚や政治家になるだけが社会参加ではないと教えています。社会的な課題を解決しながら、自分の利益も追求できる社会をどう作っていくか。それが私にとって一生のミッションです。

入山：よく考えると、官と民も二元論ですね。

松井：そうなんです。パブリックという概念は、官や公という枠を超えて存在しています。公務員を官と呼ぶとすれば、地方公務員も官とされますが、官民の境目を超えてパブリックは存在するべきです。例えば、トヨタ自動車もパブリックを担っている存在ですし、逆に消防や警察が完全に官の世界かというと、僕はそうではないと思っています。

政治やビジネスが補えない、コミュニティが果たす役割

入山：多伽さん、インパクトファンドというのは、まさに官が担っていた部分を民の力で解決しようとしているわけです。今の松井さんの話を聞いてどう思いますか？

中村多伽氏（以下、中村）：得意な話題を振っていただいて、ありがとうございます（笑）。おっしゃる通りで、官民で役割分担したとしても、それが未来永劫に機能するわけではありません。例えば日本が人口減少し、税収が減っていく中で、官が担っていた役割を誰も担えなくなる可能性があります。

そうなると、これまで税金で支えられていたものが、突然課題として世に放たれることになります。そうしたら大変ですよね。そこで、今から民間で、自立型の仕組みを作り、10年後には税収がゼロでも成り立つかたちにしていく。ビジネスの仕組みに権限を委譲していくということが必要だと思います。

松井：ビジネスだけではないんです。僕がずっと言っているのは、ガバメントソリューションというのがあって、これがよく失敗する。そしてマーケットソリューションもあって、ビジネス化すればいいという考えが80年代から90年代にかけて進んでいきましたが、マーケットもフェイリャー（failure：失敗）することがあります。

ガバメントフェイリャーもマーケットフェイリャーも存在し、それを補うものとしてコミュニティがあります。ビジネスもコミュニティの一員だし、公務員もコミュニティの一員です。セクター分けをせず、官民という区別をなくして、一人の構成員としての人間がどう行動するかという意味でのコミュニティソリューションがあるんじゃないかと。僕はそれを新しい公共と呼んでいます。

入山：マーケットとガバメント、その間にコミュニティがあるんですね。

『ゼロ・トゥー・ワン』に見る、ゼロから1を生み出すために重要なこと

入山：玉川さんが話したそうなのでどうぞ。

玉川憲氏（以下、玉川）：そう言われると、スタートアップもコミュニティだなと思います。僕がAWSに入った2010年頃から、日本でスタートアップコミュニティが立ち上がり始めた時期だと思うんですが、その時の人たちは自分の信じるアイデアに投資家が投資してくれる。そして多くの人が疑問を持つ中でも、自分はこれが正しいと信じてベットするんです。

成功するのは100分の1かもしれませんが、それが大きな引力を生み、コミュニティを作り、社会問題を解決したり、みなさんに受け入れられるサービスを作ったりすることができるんです。

入山：つまり、思想を持ってコミュニティを作り、社会を変えているという感覚なんですね。

玉川：そうですね。ピーター・ティールの『ゼロ・トゥー・ワン』という有名な本がありますが、そこでゼロから1を作る時に大事なのは、みんながそうじゃないと思っているけど、自分はこれが正しいと思えるものを見つけたなら、それに賭けるべきだということです。

つまり、100人中99人が「そうじゃない」と思っていることに対して、自分は「これが正しい」と信じ、その思考に賛同してくれる人を集め、コミュニティを作り、一点突破していくということです。

入山：尊王攘夷もそうですね、最初は。山口の田舎で吉田松陰だけが尊王攘夷を唱えていて、松下村塾ができて、日本をひっくり返したわけですから。

玉川：ちなみに、ソラコムについて言わせてもらうと、僕らが信じた真実は、クラウドの上で通信系や金融系の絶対に落ちてはいけないシステムが作れるということでした。みんなはそれが無理だと思っていましたが、僕らは「これは作れる」と信じて仲間を集め、始めたんです。それがたまたまうまくいったんですよね。

アメリカの最先端の人たちの議論の現状

入山：野村さん、お待たせしました。言いたいことがたくさんあると思いますが、ポイントをぜひお願いします。

野村将揮氏（以下、野村）：お三方のお話を共感しながら聞いていました。この文脈で申し上げると、下段に英語で「sustainability」「diversity」「social entrepreneur」と書きましたが、僕はこれらの考え方が間違っていると言いたいわけではありません。

あえてカタカナ語ではなく英語にしているのは、いわゆる「サスナビリティ」的なものが、日本やアジアなどのさまざまな文化圏で異なる概念や価値体系を持っている可能性があるからです。だからこそ、無理にカタカナ語にして一般化せず、自然や共同体といった私たち自身の概念を再考したいと思っています。

と言いながらも、このスライドのタイトルが「半生とライフワーク」だったので、結局カタカナ語を使ってしまっていました。お恥ずかしい限りです。（笑）

入山：先ほどムスタファ・シュリーマンの話をしましたが、僕の理解では、今シリコンバレーの人たちはAIを進めすぎて「やばいぞ」と感じ、「人類はどうすべきか」ということを真剣に議論していると感じています。

今、野村さんはアメリカやハーバードにもいらっしゃいますが、アメリカの最先端の人たちが考えている思想やこれからの人類の在り方、資本主義や民主主義の方向性について、どういう議論がなされているのか教えていただけますか？

野村：これは非常に繊細で難しい問題だと思っています。まず大前提として、アメリカやヨーロッパ各国では、歴史的にも影響力の強い思想が数多くあります。ただ、背景が多様すぎるため、とりあえず「まずお互いの話を聞こう」というのが、特にアメリカのハーバードやスタンフォードで最近のトレンドとなっているように感じます。

これは良いか悪いか別問題なのですが、「みんなちがって、みんないい」という話にとどまっており、どこを目指すべきかの統一には至っていません。つまり、「いろんな人がいろんなことを言っているね、なるほど、それぞれ良いところがあるね」というところで議論が止まってしまっているのが現状かと思います。

入山：つまり、思想の提示というところまで進んでいないと。

野村：おっしゃるとおりです。

シリコンバレーが抱く、AIの進化と思想の危機感

入山：アメリカはその点で危機的な状況にあるということですか？

野村：そうですね、少なくとも「アメリカ最高だ」という声はあまり聞かれません。ただ、もう1つ重要な点として、抽象度を上げると、AIの話題が絡んできますが、技術そのものが人間の意図や思想を超えるものになってきてはいます。

AIが自律的にデータを作り、集め、成長していく。このことへの危機感は非常に強いようです。ただ、その危機感を具体的に議論しようとすると、人間とは何か、社会とは何かといった根本的な議論に直結していくので、その次元で整合性を取るのは非常に難しいように感じています。

入山：普遍的には「なんかヤバそう」と思うけど、具体的に落とし込むと意見がまとまらないということですね？

野村：おっしゃるとおりです。逆に、例えば脱炭素のようなグローバルなトレンドに関しては、カーボンクレジットの取引やサプライチェーン全体でのCO2排出管理など、テクニカルな議論はむしろしやすい方なのかもしれません。人間や社会についての議論となると、文化圏や個人の背景によって違いがありすぎて、具体的な話にすると意見が揃わなくなるんです。

入山：だからシリコンバレーは思想の迷子になっているんですね。多伽さん、今の話をどう思いますか？

中村：そうですね。社会課題解決も思想だとお話ししましたが、社会起業家の間でもイデオロギーの対立があるんです。

例えば、大学時代に非営利団体としてカンボジアに小学校を建設する支援をしていたのですが、ハード面での支援をするべきだと考える人と、カンボジアの自立を妨げるからハード支援は避けるべきだと考える人が対立していました。目的は同じはずなのに、こうしたイデオロギーの対立があるんです。

対立自体が悪いわけではなく、それが適切にアップデートにつながるかどうかを投資家として見るべきだと思っています。

AIの性能が「高校生→社会人」に数ヶ月で一気に進化の衝撃

入山：玉川さんはいかがですか？

玉川：そうですね、思想が迷子という話で思ったのが、今アメリカで議論されている生成AIに関する話題です。生成AIにストップボタン、つまり強制停止ボタンを付けようという派と、そんなことをしたら進化が止まるという派が真っ向から対立しています。

このまま誰かが大事な部分だけでも思想を統一しないと、恐ろしいことが起こるのではないかと感じています。僕は楽観主義者ですが、ここ1年半でChatGPTが登場して以来、ジェネリティブAIの進化があまりにも速くて、非常に怖いと感じています。

特に、1ヶ月ほど前に元Googleの研究者が論文を発表して、AIの進化がやばいことになると警告していました。

入山：やばいことになると（笑）？

玉川：そうなんです。それは、ここ数ヶ月でAIの性能が高校生レベルから社会人レベルまで一気に進化してしまったという内容でした。もし、さらに1、2年でAIがAI研究者レベルに到達したら、GPUと電力さえあれば、バーチャルに1億人のAI研究者を集めることができるかもしれないと。

それが実現すれば、今までの課題がすべて解決されるかもしれない。だから、20～30年後にアーティフィシャルスーパーインテリジェンス（人工超知能）が実際に到来するかもしれないという脅威論が出ています。

入山：それが数年で来るということですね。

玉川：そうです。これを聞いて、ちょっとゾワッとしました。「これはあり得るな」と思ったんですが、一方で、人間がこのテクノロジーをどうコントロールするかという思想が迷子になっていて、それが非常に怖いと感じています。