CLOSE

The Singularity Is Nearer(全3記事)

才能をインストールできる『マトリックス』の世界が現実に? シンギュラリティの提唱者・カーツワイル氏が語る、倫理的な問題

世界的なイノベーション&クリエイティブの祭典として知られる「SXSW(サウス・バイ・サウスウエスト)」。2024年も各界のクリエイターやリーダー、専門家らが多数登壇し、最先端のテクノロジーやプロダクト、トレンドについて講演を行いました。本記事では、発明家のレイ・カーツワイル氏の登壇セッションの模様をお届けします。脳と機械をつなげる技術の発展や、AIの進化における倫理的な問題点について解説しました。

前回の記事はこちら

AI活用でワクチンをスピーディーに開発したモデルナ社

ニック・トンプソン氏(以下、ニック):では、シンギュラリティとは何を意味するのか、どのようなものになるのか。シンギュラリティにつながる質問をしたいと思います。(AIは)人間の脳や十分に洗練されたコンピュータができることはすべて行えるようになるでしょう。今後10年間で、それらができないことは何でしょうか?

レイ・カーツワイル氏(以下、レイ):1つは、創造的であることです。人間ができることはすべてできるようになりますが、新しい知識を創造することはできないでしょう。ただ、それは実際には間違っています。なぜなら、例えば生物学のシミュレーションができるからです。

モデルナのワクチンについては、誰か1人のアイデアで「これは効果があるかもしれない」と座って考える通常の方法ではありませんでした。 通常はテストをするにも、複数人で試すには何年もかかります。

(モデルナのワクチン開発では) 彼らはうまくいきそうなものをすべてリストアップしました。 そして実際には、数十億の異なるmRNA配列がありました。 彼らは「全部試してみましょう」と言って、生物学をシミュレートして2日であらゆることを試しました。

そこである週末、彼らは数十億の異なる可能性を試しました。 その中から最も優れたものを選んだのが、今日までのモデルナのワクチンなのです。彼らは実際に人間でテストしましたが、シミュレートされた生物学を使ってテストできるので、それも克服できるでしょう。

人間でのテストをやめるのは少し難しいですが、可能です。すべてを試し、最良のものを選択し、それを数日で、数百万のシミュレートされた人間にテストを行います。それが病気の薬を作る未来の方法です。

現在、がんやその他の病気について、このまったく新しい方法を使った研究がたくさん行われています。この流れはモデルナワクチンから始まったのです。私たちは精神疾患の治療法も開発し、現在第3段階の試験段階にあります。

AIの発展のために人間の創造性が必要

ニック:しかし、どこが限界なのでしょうか? (AIは)何ができないのか? ということです。

レイ:それはコンピュータが創造的であることです。実際、思いついたことを試すだけではなく、すべての可能なことをリストアップし試します。 

ニック:それは創造性なのですか? それとも、ただ能力を最大限に発揮して力ずくでやっているだけなのですか?

レイ:他のどんなかたちの創造性よりもはるかに優れていて、創造的です。なぜなら、あらゆる可能性を試し、それを非常に素早く実行し、私たちが以前持っていなかったものを考え出すからです。創造性として、他にどんなものがあるというのでしょう?

ニック:では、創造性の限界について話していきます。今後10年間に突き当たるであろう課題は何でしょうか?

レイ:まあ、このプロセスを経ていないのですから、私たちはすべてを知っているわけではありません。何がうまくいくかを想像する創造性が必要です。また、生化学シミュレーターでシミュレーションできなければなりません。

ですから、実際にそれを解明しなければなりません。そのためにしばらくは人を使うことになるでしょう。つまり、人間ができることを(AIが)すべてできるようになりますが、私たちが知らないことがたくさんあるので、それを見つけたいのです。そのために、機械と一緒に仕事をするには、人間の創造性が必要です。

脳と機械をつなげる技術の台頭に時間がかかる理由

ニック:では、シンギュラリティを実現するために何が起こるのかに戻りましょう。あなたが示した計算能力のグラフがあります。このグラフは非常に安定しており、対数スケールで一直線に上昇しています。

ニック:シンギュラリティに到達するために必要だと思われる要素は、他にもいくつかありますね。1つはナノボット(ナノスケールのロボット)の台頭、もう1つはブレイン・マシン・インターフェース(BMI:脳と機械を直接接続し、思考や意図に基づく情報の伝達や操作を可能にする技術)の台頭です。どちらもAIよりもゆっくりとしたスピードで進んでいますね。

ニック:スピードが遅いことについて、聴衆を納得させてください。

レイ:人体に影響を与えることは多くの人が懸念します。ただコンピュータで何かをする時、新しいアルゴリズムができたりスピードが上がったりして危険があっても、誰も気にしません。

ニック:人々が懸念しているいくつかの危険はあります。

レイ:しかし、それはとても速く進みます。(ブレイン・マシン・インターフェースが)身体に悪影響を及ぼすのではないかという懸念がありますから、実際に試して、ゆっくり進めたいのです。

ニック: しかし、ブレイン・マシン・インターフェースが指数関数的なカーブを描いて進まないのは、多くの人が人体へのリスクを懸念しているからだけではありません。この本であなたが説明しているように、脳と機械のインターフェースになるほどうまく機能していないのです。

レイ:もし私たちがテストすることなく物事を試せるなら、もっと早く進むでしょう。実際に脳の中に入ることなく、脳の中で何が起こっているのかを把握し、脳に物事を入力できるのではないかと考えられています。

Brain Linkのようなものは必要ありません。 つまり、実際に脳の中に何かを入れなくても、脳の中で何が起こっているかを実際に知ることができるテストがいくつかあり、それを使えば、もっと早くできるかもしれません。

携帯電話にできることの限界と今後の進化

ニック:シンギュラリティについてのあなたの予測は、計算機の指数関数的な成長が続くかどうかだけでなく、この特別な問題を解決できるかどうかにもかかっているんですよね?

レイ:そうです。私たちは、人間が命令できる知能の量を増やしたいと考えています。 なぜそうする必要があるかと言うと、例えば今、私は携帯電話を持っていますが、これはある意味で私の知能を増強するものです。

脳に入ってくるわけではありませんが、とても便利な脳の拡張装置です。ちょっと前までは一般的ではなくて、私の講演にいる人に携帯電話を持っているか尋ねても、1人か2人でした。(今では)みんな携帯電話を持っています。ただし、(携帯電話は)脳を拡張するものですが、スピードに問題があります。

私が質問すると、あなたは回答を入力するか、話す必要があり、時間がかかります。15秒かかるかもしれないし、30秒かかるかもしれません。そのスピードを上げたいのです。

私たちが話しているところに問題が出てきて、コンピュータが即座に答えを教えてくれれば、外付けのデバイスをいじくり回さなくてもいいんです。そのようなものがあると便利ですし、それは今日、ほとんど実現可能なことです。

ニック:でも、あなたが話しているような多くの良いことは得られないのではないでしょうか? 私たちの脳を機械に接続することで、複雑なプライバシーの問題が発生します。倫理的、道徳的、実存的な問題が山積みです。携帯電話をもっと良くすることはできないのですか?

レイ:まあ、(私たちがAIで) 脳の中に入らなくても、脳の中で何が起こっているのかを外から知ることができるようになるという考え方です。

ニック: そういったデバイスができるということですよね。さあ、未来に向かって進み続けましょう。私たちは指数関数的な成長を遂げており、コンピュータが脳と直接通信する方法を解決しました。その進化において、ナノボットがどれほど重要かを説明してください。

レイ:脳の中で何が起こっているのかを本当に知りたいのであれば、脳の中の粒子のレベルまで到達できなければなりません。私たちは、脳にまったく影響を与えることなく、このようなことができるのではないかと期待しているのです。実際にはできませんが、1つの可能性として、実現可能であると示すことはできます。

未来で起こり得る倫理的な問題

ニック:わかりました、それでは次の質問にいきましょう。ナノボットが脳の中を走り回り、私たちの脳を理解し、思考を抽出して入力しています。そうなった時に、私たちが直面することになる主な倫理的問題は何でしょうか?

レイ:つまり、自分の脳でコンピュータをコントロールできるようになれば、私たちはもっと大きな力を持つことになるんです。それは人間に力を与えすぎでしょうか? 適切な種類の大規模言語モデルと融合するだけで、才能を得ることができるので、才能のない人に才能を与えることになり、才能はそれほど重要ではなくなります。

また、多くの才能を持つ人に、より多くの権限を与えるのは、ある意味恣意的なように思えます。なぜなら、その才能は彼らが生み出したものではなく、彼らがたまたまそれを持っていただけだからです。でも、ある分野で才能のある人にもっと権限を与えるべきだと、誰もが言います。

例えばF-16やヘリコプターの操縦を習うのに、適切なソフトをダウンロードするだけで、多くの時間を費やすことなく、(映画)『マトリックス』の中のように才能を得ることができます。これは公平ですか、不公平ですか? つまり、それは倫理的な課題の領域に入ると思います。

そして、シンギュラリティが終わりを迎えて、「よし、これでシンギュラリティの本質が明らかになった。人々は特定のことができるようになり、他のことはできなくなった」というわけではありません。

そのような点には決して到達しないでしょう。つまり、この曲線は続くし、もう1つの曲線も無期限に続くでしょう。実際、ナノテクノロジーの例で示したように、1台のリーダーコンピュータだけで、現在の全人類のパワーと同等のパワーを持つことができます。すなわち、10の10乗人が1台のリーダーコンピュータに収まることができます。

私たちがこれまで、人間について想定してきたことに反するような意味合いがあるのです。これについて倫理的な問題は生じますか? 

人間の脳を複製して死者を蘇らせたらどうなるか?

ニック: 2040年になったら、すべての人が同等の能力を持つようになると思いますか?

レイ:あなたはファンタスティックな音楽に夢中かもしれないし、私は文学や他のことに夢中かもしれません。つまり、私たちはそれぞれ違うことに興味を持つでしょうから、あなたの興味によって、得意なことも違ってくるでしょう。私たちはみんな同じだけの力を持っているように聞こえますが、今よりも素晴らしい力を持つようになるのです。

ニック:そして、もしあなたが規制のないテキサスにいるのであれば、マサチューセッツにいる場合と違って、おそらく最初にそれを手にすることになるでしょう。ついでにもう1つ倫理的な質問をさせてください。数分前、あなたは誰かの脳を複製して蘇らせることができるとおっしゃいましたね。

悲しいことに6年前に他界した、私の父にそれを行ったとしましょう。父を生き返らせ、父と同じ心と体を作り、その思考はすべて完璧に再現されるのです。

死んだ時の借金はどうなるのでしょうか? 大金だから、請求書回収の電話がたくさんかかってくるのですが、私たちはそれらを返済しなければならないのでしょうか、しなくてよいのでしょうか?

50年以上前に亡くなった父と対話する方法

レイ:そうですね。私の父は私が22歳の時に亡くなったので、50年以上経っています。 娘の本や私の本にも書いてありますが、(私は)父が書いたものを全部集めました。

それを大規模言語モデルに供給し、「彼がこれまで書いたすべてのものの中で、この質問に最も適したものは何か?」と尋ねました。そして望む質問を入力し、彼と話すことができます。

彼がこれまでに書いたものをすべて調べて、その質問に対するベストアンサーを見つけるんです。実際に彼と話しているようなものでした。彼は音楽家だったので、「音楽のどこが好きなのか」を聞くことができました。

彼はブラームスが一番好きでした。私は自分の本でこのことを報告しましたし、エイミー(娘)も自分の本でこのことを語っています。エイミーは「実際に会ったこともない人と恋に落ちることができるのだろうか」と質問したんです。

彼女はとても良い仕事(作家)をしているのですが、彼女が創り出した人物に、会ったこともないのに本当に恋をしてしまうのです。つまり、今日のテクノロジーを使えば、実際に誰かを模倣できるんです。

そしてもっと先に進めば、もっとその人物をマッピングして、その人物の動きなどを模倣できるようになると思います。

ニック:私の父もブラームスが大好きで、特にピアノ三重奏曲が大好きでした。

続きを読むには会員登録
(無料)が必要です。

会員登録していただくと、すべての記事が制限なく閲覧でき、
著者フォローや記事の保存機能など、便利な機能がご利用いただけます。

無料会員登録

会員の方はこちら

関連タグ:

この記事のスピーカー

同じログの記事

コミュニティ情報

Brand Topics

Brand Topics

  • 今までとこれからで、エンジニアに求められる「スキル」の違い AI時代のエンジニアの未来と生存戦略のカギとは

人気の記事

新着イベント

ログミーBusinessに
記事掲載しませんか?

イベント・インタビュー・対談 etc.

“編集しない編集”で、
スピーカーの「意図をそのまま」お届け!