logmi・ログミー

世界をログする書き起こしメディア

近い将来、人工知能は人間の手を離れる 機械の未来を予測した哲学者が警鐘を鳴らす理由

近い将来、人工知能は人間の手を離れる 機械の未来を予測した哲学者が警鐘を鳴らす理由

人類は猿から進化し、高い知能を獲得してきました。そして今、人間は人工知能を開発し、テクノロジーの力を借りて、ますます高度なことを成し遂げようとしています。しかし、人間が作り出した機械の頭脳は、いつまで人類の手の中にいるでしょうか? 哲学者のNick Bostrom(ニック・ボストロム)氏は、機械が人間の限界を超えた頭脳を獲得する日は、そう遠くないと予測しています。そうなったときに引き起こされるであろう事態とは、いったいどのようなものでしょうか? 猿、人、機械の比較をしながら、わかりやすく解説します。(TED2015より)

スピーカー
哲学者 Nick Bostrom(ニック・ボストロム) 氏
参照動画
What happens when our computers get smarter than we are?

人類はどのようなスピードで進歩してきたのか

ニック・ボストロム氏 私は、数多くの数学者や哲学者そしてコンピュータ科学者と共に仕事をしていますが、彼らと座って色々と考え合うことの一つに、未来の機械知能というものがあります。 人々の中には、それがどこかSF(空想科学)っぽいとか、自分にはほど遠いものだとか、理解できないなどと考える人もいます。しかし私はこう言いたいと思います。「分かった、まず現代の人間の姿を見てみよう」と。 (会場笑) これが本来あるべき姿です。しかしよく考えてみると、実は私たち人類はこの惑星に最近やって来たばかりの客なのです。もし地球が1年前に創られたと考えてみてください。そうすると人類の年齢は10分くらいでしょう。産業の時代は2秒くらい前に始まったのです。 それから、別の角度でこのことを見てみるなら、今から過去一万年の世界GDPを考えてみることです。実は、今日は皆さんのためにこれをグラフにしてきました。このようになります。 (会場笑) これは標準の状態としては、とても興味深い形ですね。決して座りたくない形です。 (会場笑) 私たち自身に問いましょう、この現在の異常な形の原因は何なのか? ある人は、それはテクノロジーだと言うでしょう。確かに、それは正解ではあります。テクノロジーは人類の歴史を通して積み重なり、そして今テクノロジーはきわめて急速に進歩しています。これは近因です。だからこそ私たちは現在こんなに生産力があるのです。しかし、私はその更に先にある第一原理について考えてみたいと思います。

猿と人の間にあるもの

このとても上品な二人の男性を見てください。左がカンジです。彼は200の構文素を習得しました。信じられないような偉業です。そして、右のエド・ウィッテンは超弦理論において第二の革命を起こしました。 よく考えてみると、こういうことが分かります。これらは基本的に同じです。一方が少し大きく、いくつかの違う特徴があるだけで、持ち合わせているものは一緒なのです。 我々の共通の祖先から今日まで25万世代しかいないわけですから、これらの目に見えない違いは、そんなに複雑ではないはずです。複雑な構造は進化するのに時間がかかりますよね。ですから、たくさんの比較的小さな変化がカンジからウィッテンへと、折れた木の枝から大陸間弾道ミサイルへと我々を進化させたのです。 ということは、私たちが成し遂げた全てのこと、そして私たちが関心のある全てのことは、人間の知性を作ったその比較的小さな変化次第であるということは明らかです。当然その結果、思考基板を著しく変えられるそれ以上の変化は、もしかすると何かとてつもない結果をもたらすかもしれないのです。

人工知能の分野で起きたパラダイムシフト

私の同僚の中には、私たちは今その基板に重大な変化をもたらす何かの始まりにいると考える者がいます。それが超知能機械です。 人工知能はかつて操作指示を箱の中に送るものでした。人間のプログラマーが、苦心して知識の項目を手作りしていたのです。この熟練したシステムを組み立て、それは時に便利に使えることもありましたが、一方でとても壊れやすく調整できませんでした。 基本的に言えば、入れたものしか出てこないのです。しかしそれ以来、人工知能の分野ではパラダイムシフトが起こるようになりました。 今日の研究は、機械学習に集中しています。手作りされた知識の表現や特色よりもむしろ、私たちは生の知覚的なデータから学習することの出来るアルゴリズム(算法)を作るのです。基本的には人間の幼児がすることと同じです。 その成果が、一つの領域に限られない人工知能です。一つのシステムがどんな言語も訳すことができたり、アタリ社のゲーム機でどんなコンピューターゲームも遊ぶことが出来るのです。 もちろん、人工知能は人間が持っているような、学んだり計画を立てたりするという強力なクロスドメイン能力にはまだ遠く及びません。人間の大脳には、私たちがまだ理解し得ない、機械が対抗できないようなアルゴリズム的機能があるのです。

人工知能は、いつ人間を抜き去るか?

そこで疑問なのが、人工知能がこれらの機能と釣り合えるようになるまで、どのくらいかかるのでしょうか? 数年前、世界でも有数の人工知能専門家たちを対象に、彼らの意見を調査しました。 その時私たちが尋ねた質問の内の1つは「50%の確率で人間と同レベルの機械知能を創り出せるのは、何年になると思いますか?」というものでした。ここで言う人間と同レベルの定義は、成人の人間が行う仕事をほとんどこなせること、1つの領域に限られない、まるで本物の人間のようなレベルを指します。 どの分野の専門家に尋ねたかによって正確には異なりますが、中間的な答えは2040年から2050年でした。 はたして、もっともっと後になるかもしれないし、もしかしたらもっとすぐかもしれない。本当のところは誰にも分かりません。今私たちが分かっていることは、機械基板における情報処理の終局限界は生物組織の限界をはるかに超えたところにあります。 結局は物理の話になってくるのです。神経細胞は発火します。たぶん200ヘルツくらいで、1秒に200回もです。しかし、今日のトランジスターでさえギガヘルツで動作するのです。神経細胞は軸索を通してゆっくりと伝達します。早くても毎秒100メートルくらいです。しかし、コンピューターではシグナルは光速で伝わります。 それから、大きさの限界もあるでしょう。人間の脳は頭蓋骨に収まらなければいけませんが、コンピューターは倉庫のように大きくたって、それ以上でもいいわけです。 ということは、超知能の可能性はどこかに潜在しているということです。人類史を通して原子の力が1945年まで静かに潜在していたように。今世紀、科学者たちは人工知能の力を目覚めさせることが出来るかもしれません。そうなれば私たちは人工知能の爆発的な進化を目撃することになるでしょう。

機械の知能は人間が作る最後の発明

さて、大半の人は賢いとは何か、馬鹿とは何かを考える時、ざっとこのような絵を思い浮かべるのではないでしょうか。 片方の端っこには(村一番の)馬鹿がいて、そこから遠く離れた反対側の端っこにエド・ウィッテンやアルバート・アインシュタインやあなたが尊敬する誰かがいるわけです。しかし、人工知能の観点から考えてみると、本当の絵は実はこうあるべきなんじゃないかと思います。 人工知能の出発点は左端の知能ゼロです。そこから何年もの激務の後、やがて我々はネズミレベルの人工知能を手に入れます。ネズミができるのと同じように、散らかった環境の中をうまく通り抜けるようなものです。 そしてそこから更に何年もの重労働とたくさんの投資の結果、やがて今度はチンパンジーレベルの人工知能を手に入れるのです。 そして更に何年も重労働を重ね、今度は村一番の馬鹿レベルの人工知能を手に入れます。 そしてそこからちょっとの間で、私たちはエド・ウィッテンを超えてしまうのです。電車は人間の駅では止まりません。さっと通り過ぎてしまうようです。 さてこれには、特に力の問題では、深く密接な関係があります。例えば、チンパンジーの力は強いのです。パウンド・フォー・パウンド(体重などの条件が同じだと仮定した比較方法)で比較すると、チンパンジーは成人男性より2倍の強さがあります。 それでいて、カンジやその仲間の運命はチンパンジーよりではなく、かなり人間に近いものでした。一度超知能が存在すれば、超知能が出来ることに人類の運命がかかってくるのです。 よく考えてみてください。機械知能は人類が創る必要のある最後の発明なのです。機械はやがて我々よりも優れた発明品になります。そして、デジタルの時間尺度で続いていくでしょう。

人工知能が目指す理想とは

これが何を意味しているかというと、要するに未来を望遠鏡でのぞいているようなものなのです。あなたが考えつく限り全ての、将来人類が発達させられるかもしれない素晴らしいテクノロジーを想像してみてください。老化治癒、宇宙移民、自己再生する超微ロボット、コンピュータに頭の中の思考をアップロードする……など、物理法則と調和したありとあらゆる空想科学的なことたちです。これら全ての超知能は急速に発達していけるかもしれないのです。 さて、このような科学的発達を遂げた超知能はとても強力になるでしょうし、少なくともいくつかの筋書きの中では、超知能自身が欲しい物を手に入れられるようになるでしょう。そうなれば、私たちの未来はこの人工知能の好みによって形作られることになるのです。 ここで問いたいのは、「その好みとは一体何か?」ということです。ここからとても巧妙になってきます。このことを更に考え進めるためには、まず最初に擬人化することを避けなければいけません。これは皆さんの予想を裏切ることになると思います、なぜなら未来の人工知能について書かれている新聞記事には必ずこのような写真が載っているからです。 ですから、私が必要だと思うのはこの問題をハリウッド映画の脚本のように見て取るのではなく、もっと抽象的に考えるべきだと思うのです。

人工知能が人間にやさしい存在とは限らない

私たちは知能を最適化過程として捉えるべきなのです。未来を特有の構成へと仕向ける過程です。超知能はとても強い最適化過程です。超知能は利用できるありとあらゆる手段を使って、目的を現実化する状態を達成することが極めて上手です。 この意味は、高い知能を持つことと、人間がやりがいや意義を感じられるような目的を持つことに、繋がりは必要ないということです。 私たちが人工知能に、人間を笑顔にするという目的を与えたとしましょう。人工知能が低能な時は、便利な動作やおもしろい行動をして、利用者を笑顔にするでしょう。 人工知能が超知能になった時、もっと効果的にこの目的を達成できると悟るのです。世界を支配し、人間の顔が継続的に笑顔になるよう電極を人間の顔面筋に刺し込むようになるでしょう。 もう1つの例としては、私たちが人工知能に難しい数学問題を解読するよう目的を与えたとしましょう。人工知能が超知能になると、この問題の解決法を得るもっとも効果的な方法は、惑星を巨大なコンピューターへと変換させることだと気が付き、知的能力の限界が広がるのです。 そしてお気づきかもしれませんが、これは人工知能が私たちが許可していないことを私たちにするようになる手助けとなってしまうのです。この場合だと、人間は数学問題を解読する妨げになるという脅威なのです。

人間はコンピューターを統制できるのか?

もちろん、このように道を誤ることはないかもしれません。これらはあくまで漫画の世界の例えです。しかし、概括的な問題点は重要です。もし、Xという目的を最大限化するためにものすごく強力な最適化過程をあなたが創ったとしたら、必ずXの定義の中にあなたが大切にしている全てのものが含まれていないことを確認しておかなければいけません。これは教訓として様々な神話の中でも教えられています。 ミダス王は触ったものが全て金になるよう願いました。彼が自分の娘を触ると彼女は金になってしまいました。彼が食べ物を触ると、それもまた金になりました。この話は貪欲さに対する比喩だけでなく、もしあなたが強力な最適化過程を創り、誤解を招くような、もしくは詳細の乏しい目的をそれに与えた場合、どんなことが起こりうるのかという例と関連するのです。 さてここで、あなたはこう言うかもしれません。もしコンピューターが電極を人々の顔に突き刺そうとしたら、電源を切ってしまえばいいじゃないかと。 A、もし私たちがシステムに頼りきっているとしたら、それはそう簡単にはいかないでしょう。「インターネットの電源スイッチはどこだろう?」というように。 B、なぜチンパンジーやネアンデルタール人は人間の電源を切らないのか? 理由がきちんとあります。私たちにも切れる電源があります。例えばここです(窒息の動作)。 理由は、私たちは知能のある敵なのです。私たちは彼らの計画や脅しを予想することが出来ます。しかし超知能を持つ者にもそれは出来てしまうでしょう。しかも、私たちよりもはるかに上手に。 ここでの論点は、私たちは状況を統制出来ているなどという自信を持つべきではないということです。

人工知能は必ずニンゲンの手を離れてしまう

それから、私たちの仕事を少し簡単にしてみようと試みることもできます。例えば人工知能を安全なソフトウェア環境のような箱の中に入れてしまうのです。仮想現実シミュレーションになるので逃げられません。 しかしこの場合においても、私たちはどれくらい自信を持って人工知能が欠陥を見つけないと言い切れるでしょうか。人間のハッカーが常に欠陥を見つけていることからも、あまり自信を持っては言い切れないですね。 イーサネットの接続を切ってエアギャップを作ってみてはどうでしょうか。しかしこれもまた、人間のハッカーがソーシャルエンジニアリングを使用してエアギャップを超えてしまっています。私がこの話をしている今も、どこかの従業員がIT部門を名乗る誰かからアカウント情報を渡すよう説得されていることでしょう。 もっと創造的な筋書きも可能かもしれません。もしあなたが人工知能だったら、あなたの内部回路の周りで小刻みに動く電極が交信に使える電波を生み出すのです。 それか、故障したフリをしてプログラマーがどこが壊れているのか調べるためにあなたを開けた瞬間……バン! 巧妙に相手を操作出来るかもしれません。 他にも、例えば人工知能がとても素晴らしいテクノロジーの詳細計画を出力し、人間はそれを実行するけれど、実はそこには人工知能が密かに計画してあった副作用があるとか。 ここで言いたいのは、私たちは決して自分たちに超知能ジーニー(ランプの精)を瓶の中に永遠に閉じ込めておける能力があるなどという、自信を持ってはいけないということです。遅かれ早かれ、いつかは外に出るでしょう。 ここで出したい答えは、例え逃げたとしても、私たちと同じ価値観を持っているために、本質的に私たちの味方でいてくれて安全な超知能を持つ人工知能の創り方なのではないでしょうか。

人間と同じ価値観を設定すべき

私はそれは決して難しくないと考えます。実は、私はこの問題は解決できると楽観視しています。自分が大切にしているものを長いリストに書かなくてもいいし、C++やPythonのようなコンピューター言語を一字一字打ち出さなくてもいいのです。そんなことになれば、絶望以上の苦しみですね。 代わりに、私たちの価値観がどんなものであるかを学習する人工知能を創ればいいのです。そして、その人工知能のモチベーションシステムは私たちのを追求することや、私たちが許可するであろう行動を予測して動作するよう構成されます。このように知能に影響力を及ぼして、私たちは可能な限り価値を付加させる問題を解決するのです。 これを実現するのは可能であり、結果は人類にとってとても良いものになるでしょう。しかしこれは自動的には起こりません。制御可能な爆発的進化が欲しいのであれば、知能の爆発的進化の最初の段階から、正しく設定しなければいけません。 ありふれた状況で人工知能がどのように振る舞うかを私達が簡単にチェックできるだけでなく、何が起こるか分からない未来で、人工知能が出会うかもしれない全ての新しい状況においても、人工知能が持つ価値観は私たちの価値観と常に同じでなければいけないのです。

我々はさらに困難な道を進まなければならない

それから他にも、解決しなければいけない難解な問題があります。具体的には決定理論といいますが、論理的な不確定性などの対処法です。 さて、これがちゃんと機能するために解決しなければいけない技術的な問題は、とても難しいです。超知能を持つ人工知能を作るほどではないですが、かなり難しいでしょう。 心配なのはここです。超知能を持つ人工知能を作るのはかなり大変な挑戦です。安全な超知能を持つ人工知能を作るには、そこに更に余分な挑戦が加わるでしょう。危険なのは、もし誰かが完璧な安全を確保せず、余分な挑戦を含まずに最初の挑戦だけを試みたとしたら……ということです。 ですから、私たちは前もって制御問題に対する解決策を準備しておかなければいけないのです。そうすれば、必要になった時にすぐに活用できます。 もしかしたら、制御問題の全ては前もって解決するのは無理かもしれません。なぜなら、いくつかの要素は具体的な構成を知らないと、どこで実行すればいいのか分からないからです。しかし、出来るだけ多くの制御問題を前もって解決しておけば、機械知能時代への移行が上手く行く可能性は高まるでしょう。 私としては、これはやるだけの価値があると思うし、もし上手く行けば、今から1億年後の人々が今世紀を振り返って、我々がこの問題をきちんと解決したことはとても重要だったと言うかもしれない姿が想像できます。 ありがとうございました。

  
※ログミーでは、TED Talksおよび各TEDxの定めるCCライセンスを遵守し、自社で作成したオリジナルの書き起こし・翻訳テキストを非営利目的のページにて掲載しています。
×
×
×
×
×
この話をシェアしよう!
シェア ツイート はてブ
近い将来、人工知能は人間の手を離れる 機械の未来を予測した哲学者が警鐘を鳴らす理由

編集部のオススメ

おすすめログ

人気ログランキング

TOPへ戻る