もし人間の1兆倍の知能を持つマシンが作られたら？　カーツワイル氏が語る、シンギュラリティ後の世界とAIとの共存

もしも私たちの知性が100万倍になるとしたら？

ニック・トンプソン氏（以下、ニック）：ところで、この本（『The Singularity Is Nearer When We Merge with AI』）は素晴らしいので、発売されたらみなさんはサイン入りの本を手に入れられると思います。（あなたの意見に）賛成でも反対でも、間違いなくもっと考えさせられます。

2045年に私たちは100万倍の知性を持つようになっていますが、起床して朝食をとるか、とらないか。私たちがもっと知的になったら、どのような1日になるかがこの本には書かれていませんね。

レイ・カーツワイル氏（以下、レイ）：その質問に対する答えは今と同じです。まず、シンギュラリティ（技術的特異点）と呼ばれるのは、私たちがその質問を十分に理解していないからです。

物理学で言う特異点とは、ブラックホールがあって光が逃げない状態のことで、ブラックホールの内部で何が起こっているのかが実際に分からないので、物理的特異点と呼ぶのです。つまり、これは物理学から言葉を借りて呼んでいる歴史的特異点です。私たちの知性が100万倍になるとしたら、それはどのようなものでしょうか？

ネズミに「人と同じ知能があったら、どんな感じ？」と聞いた時、それなりの知能はあっても、ネズミはその質問すら理解できず、答えを明確にできないでしょう。シンギュラリティがもたらす知性をすべて追加することで、私たちが知性の次のステップに進むというのは、そういうことなのです。私はただ、私が理解していることを確認したいだけなのです。

2045年には、人間の脳をバックアップすることが可能に

レイ：でも、1つだけお答えしましょう。もしあなたが勤勉であれば、5〜6年で「寿命脱出速度」を達成できると言いました。脳の中で起こっていることすべてを実際にエミュレート（模倣）したいのであれば、さらに数年先、例えば2040年、2045年まで行きましょう。

では、ある人が爆発したり、心に何かが起きたとします。コンピューターに由来するものはすべて間違いなく再現できます。なぜなら、 コンピューターで何かを作成すると、必ずバックアップされるからです。コンピュータがなくなっても、バックアップを取れば再現できるんですね。

しかし、コンピュータを使わない通常の脳での思考はどうなるかというと、バックアップする方法がありません。

2045年にシンギュラリティに到達すれば、そのような非生物学的、非機械的な脳で何が起こっているのかを、実際に解明できるようになるでしょう。 つまり、彼らの通常の脳とコンピュータ版の両方をバックアップできるようになるでしょう。それは 2045 年までに実現可能だと私は信じています。

脳を丸ごとバックアップできるようなビジョンがあればいいのですが、全世界が爆発してすべてのデータセンターが失われる可能性があるため、残念ながら、絶対的な保証はできません。

ニック：もし私たちが記憶を共有したとします。自分の脳をクラウドにアップロードして、大脳新皮質に直接（相手の）情報が入ってくるようになっても、私たちは別人なのでしょうか？

レイ：私の脳を拡張するコンピュータが、あなたの脳を拡張するコンピュータと相互作用すれば、ハイブリッドなものを作ることができます。

コンピュータよりもはるかに危険なもの

ニック：これに関してもう1つ質問させてください。この本を読んでいて、ずっと引っかかっていたことがあります。現在の状況について、あなたは「テクノロジーは善のための巨大な力である」と楽観的ですね。テクノロジーがこれからも巨大な力であり続けるだろうと言いますが、あなたが描いている未来には多くの不確実性があります。

レイ：まず第一に、私は必ずしも楽観的ではありません。うまくいかないこともあります。コンピュータができる前にも、うまくいかないことはありました。私が子どもの頃、原子爆弾が作られ、人々は戦争をとても心配していました。

原爆から身を守るために机の下に入り、手を頭の後ろに回しました。効果があったようで、私たちはまだここにいます。でも、私たちは実際に怒りによって発射され、1週間以内に多くの人々を殺した2つの兵器を持っていました。

もし、あなたが（当時の）人々に「80年後にこのようなことが起こる可能性はあるか」と尋ねたら、みんな「そんなことは起きない」と言うでしょう。しかし、実際に起こったことなのですから、来週も起こらないとは限りません。

とにかく、これは非常に危険なことです。世の中には悪い人もいますから、コンピュータよりもずっと大きな危険だと思います。コンピュータは確かに危険がありますが、回避できるようにもっと賢くなるでしょう。

80〜90年前の第二次世界大戦で1億人近くが亡くなりました。もうそんな戦争はありませんが、原子爆弾があるのですから、私たちはまたこれを引き起こすことができます。コンピュータがそれに関与していることも想像できます。

コンピュータは物事をさらに良くしていく

レイ：しかし、これは戦争と平和を貫くものですが、コンピュータの系譜を見てみると、1計算のほんのわずかなものから650億計算まで、80年間で20兆倍の進歩を遂げたことになります。アメリカの平均所得を見てください。これは恒常ドルで計算されているのでインフレとは無関係で、アメリカの平均所得を100倍にしたものです。

100年前は良かったと言われますが、そうではありません。この本には、私たちがどのような進歩を遂げたかを示す50のチャートがあります。世論調査を行い、貧困に苦しむ人々の数は増えたか減ったかを尋ねたところ、この20年間で50パーセントも減少しているのです。

つまり、私たちが過去について考えていることは、実際に起こったこととは正反対なのです。物事は実際よりもはるかに良くなっています。そして、コンピュータは物事をさらに良くしていくでしょう。大規模言語モデルで今できるようなことは、2年前には存在しなかったのです。

ニック：個人所得が上がり続けるのは当たり前のことですし、物事を良く解釈しているように見えます。カーツワイル曲線の勾配がもう少し緩やかであれば、もっと（物事が）良くなるのに、と不安になったことはありますか？

レイ：200年前に鉄道が誕生し、多くの雇用が失われました。人々は綿繰り機でお金を稼ぐことにとても満足していましたが、機械に代替され、突然仕事がなくなってしまったんです。当時は「すべての雇用が失われる」とよく言われましたが、実際には所得が上がり、より多くの人が働くようになりました。

例えばエレクトロニクス（電子工学）など、私たちは雇用を創出したと言えるでしょう。雇用が失われたとしても、状況は良くなっています。例えば、コンピュータ・プログラミングのような仕事です。Googleは、コンピュータのプログラミングをする人を6万人抱えています。

専門プログラマーができるほどではありませんが、多くの言語モデルがすでにコードを書くことができますから、ある時点で、それは人間にふさわしい仕事ではなくなるでしょう。それにはどれくらいの時間がかかるのでしょうか？　何十年という単位ではなく、何年という単位です。

AIの進化で寿命が伸びても、「100歳以上は生きたくない」と言う人たち

レイ：とはいえ、雇用は一掃されても、収入を得るための別の方法は生み出されるのですから、状況は良くなっていくと思います。例えばこの機械は食器を洗うことができます。ここに食器がたくさんあるとして、（AIが）食器洗い機に入れるべきものを選んで、それ以外は全部きれいにしてくれます。

誰も「そうなってほしくない」とは言いません。だから、私たちはお金を分配する他の方法を見つけるでしょう。そして、私たちがすでに見てきたような（テクノロジーの発展の）カーブが続くでしょう。

ニック：ロボット食器洗い機が登場する前に、大規模言語モデルが登場したのは驚くべきことです。あなたにはお孫さんがいますよね。あなたに同意するような若い人に何を伝えますか？　もしあなたが正しければ、驚くほど変わった未来になるのでしょうが、そのためにどのような準備が必要ですか？

レイ：何がお金になるかはあまり気にせず、何が自分を興奮させるかをもっと考えると良いでしょう。大好きなビデオゲームや自分を興奮させる文学について学ぶべきです。未来の文学のいくつかは、コンピュータによって作られるでしょう。

ニック： あなたのお子さんやお孫さんが、あなたの予言通り何百年も生きるとしたら、生き方にどのような影響を与えますか？

レイ： そうですね、人々と話していると「100歳以上は生きたくない」と言います。あるいはもう少し野心的で、「110歳以上は生きたくない」と言うかもしれません。

でも、実際に見てみると、人がもう十分だ、もう生きたくないと思うのは、肉体的、精神的、スピリチュアルな苦痛など、ある種の切羽詰まった苦しみを抱えている時です。それ以外の理由で命を絶つ人はいません。

そして、私はそれが起こると予想していますが、実際にさまざまな身体的問題を克服したり、がんを撲滅したりできれば、人々は明日を生きることに喜びを感じるでしょう。そして、明日はますます良くなっていくでしょう。進歩がなくならないからこそ、人は生きたいと思うのです。医療業界全体が、これからも大きく進歩することでしょう。

AIの信頼性が増していく理由

ニック：次の質問です。「AIはブラックボックスで、どのように作られたのか誰も知りません。AIを信頼し、採用し、受け入れたいと考えているユーザーに対して、AIが信頼に足るものであることを、どのように示せばいいのでしょうか。特に、AIを直接脳にアップロードするのであればなおさらです」。

レイ：AIがどのように動くのか、誰も知らないというのは事実ではありません。

ニック：大規模言語モデルを使用しているほとんどの人は、そのモデルがどのようなデータセンスで作られているのか知りません。アーキテクト（設計者）でさえ理解していないことが、トランスフォーマー層（深層学習モデル）で起こっているのです。

レイ：そうですね。でも、私たちはそのことをもっともっと学んでいくでしょう。実際、コンピュータの仕組みは、人々が身につけたいと思うごく一般的な才能になると思います。最終的には、コンピュータに対する信頼が高まるでしょう。

つまり大規模言語モデルは完璧です。つい最近もありましたが、質問をしてコンピュータが間違った答えを出すのは、そもそも情報を持っていないからです。コンピュータは知らないことを知らないのです。今現在で知っている最善のものを出すでしょうから、コンピュータが「これは知らない」と言えるようになるなら、それはとても良いことです。

そして、その情報に基づいて訓練したことがなく、何も情報がなければ、ただ最善の推測をするだけなので、間違っている可能性が非常にあります。そして私たちは、（AIが）その情報を分かっているのか、分かっていないのかを見極められるように学んでいきます。

最終的には、コンピュータがどの時点で知っているか、知らないのか、かなり確信が持てるようになり、その言葉を信用することができるのです。

ニック：つまり、質問に対するあなたの答えは、A ：私たちはより多くを理解し、B：AIははるかに信頼できるようになるので、AIがどのように動くかを理解しなくても、それほど危険ではないということですね。

カーツワイル氏が予測する、ナノテクノロジーの暴走の可能性

ニック：あなたは、チューリング・テストのような予測をすることに人生を費やしてきましたね。圧倒的な楽観主義者から少し悲観主義者になった今、 あなたが考えている予測について教えてください。

レイ：そうですね、私の本にはいつも、「こういうことがうまくいかない」という章があります。つまり、ナノテクノロジーにはよく知られた危険性があります。もし誰かが、すべてをペーパークリップに複製するナノテクノロジーを作り出し、全世界をペーパークリップにしてしまったら、それはポジティブなことではありません。

ニック：ホッチキスなら別ですが…...。

レイ：それは実現可能です。つまり、AIがすべてをクリップに変えようとしていることを検知して、そうなる前に破壊できるのです。でも、この新しい本『The Singularity Is Nearer When We Merge with AI』には、どんなことが起こりうるかについて書かれた章があるんですよ。

ニック：この本で最も注目すべき点は、ナノボットが世界をグレイ・グー（Grey goo：ナノマシンの無限増殖による世界の終焉という仮説）に変えるのにかかる時間と、ブルー・グー（Blue goo：他のナノボットの複製を制御したり悪いナノボットと戦ったりする、警官ナノボット）がグレイ・グーを止めるのにかかる時間を、数学的に計算していることです。

驚くべきことですね。もうすぐ本が出ますので、ぜひ最後まで読んでください。先ほどの「若者は何を考え、何に取り組むべきか」という質問で、情熱や「何が彼らを駆り立てるのか」が大事だとおっしゃいましたね。

彼らが考えるべきことは、「未来のシステムをどのように設計し、構築すれば、AIが私たち（の世界）をグレイ・グーや壁紙クリップに変えてしまう可能性が低くなるか」ということではないのでしょうか？

レイ：みんながそれに取り組みたいかどうかは分かりません。

ニック：でも、この部屋にいる人たちや技術に関心のある人たちは、みんなをグレイ・グーにしないために働くべきですよね？

レイ：はい、それはリストにありますよ。

人間よりも知能の高い機械が出てきた時、人々の役割は？

ニック：しかし、それは別の問題につながります。つまり、（人間に）機械の100万分の1、10億分の1、1兆分の1しか知能がない時。 私たちは本当に難しい問題を解決しなければならなくなりますが、10年後、15年後には、私たちよりもずっと知能の高い機械が出てくるでしょう。これらの問題を解決するために、人間の役割はどうなるのでしょうか？

レイ：私は、機械は人間の延長だと考えています。そもそも人間がいなければ、このようなものは生まれません。人間には、こうしたことを考え抜く脳があります。

そして、あまり評価されていませんが、私たちには親指があります。クジラやゾウは、実は私たちよりも大きな脳を持っていて、より深い思考ができるのでしょう。でも彼らには親指がないので、テクノロジーを創造することはできません。

サルは親指があるので創造することができますが、親指は1センチほど下にあって、うまく物をつかむことができません。ちょっとした技術を作り出せますが、その技術は他の技術を生み出すことはできません。

親指があるということは、人間の脳に由来する大規模言語モデルになる集積回路を作れるということです。それは実際に、私たちがこれまで考えてきたすべてのことを使って訓練されています。

人間が考えたことはすべて記録され、大規模言語モデルに入れることができます。そして、特定の裕福な人だけがそれを持つということはなく、誰もが取り組むことができるのです。

レイ：ここにいる何人の人が電話を持っていますか？　100パーセントじゃないとしても、99.9パーセントでしょう。ホームレスでも自分の電話を持っている人はいるし、そんなに高くないですから裕福な層である必要もないでしょう。つまり、このような能力の分布を表しているのです。とてつもなく裕福でなければ買えないものではないのです。

ニック：では、私たちは（今より）ずっと長生きになり、裕福で平等な社会に向かっているとお考えですか？

レイ：ええ、その通りです。

ニック：彼はアメリカの宝です。レイさん、ありがとうございました。