歴史学者は「ポジティブなシナリオ」の危険性を提示する

ニコ・ウォイシュニク氏(以下、ニコ):では、次のセクションに移ります。私はずっと前から、ユヴァルさんに聞きたいと思っていたことがあります。

スタートアップやテクノロジーの世界にいて、シリコンバレーの創業者たちの「自動化が進めば、創造性や自己実現の新たなルネッサンスの時代になるかもしれない」という話をいつも聞いていました。このビジョンが約束されて売られている方法に、歴史的な類似性を感じますか?

ユヴァル・ノア・ハラリ氏(以下、ユヴァル):いつも同じことの繰り返しですよ。誰かがテクノロジーや社会システムなどの新しいアイデアを思いついたら、当然ながら最もポジティブで楽観的な方法で発表するでしょう。しかし、それが裏目に出ることも多いので注意が必要です。

1990年代のインターネット黎明期に掲げられた約束を見てください。「人々は情報を共有し、お互いを知ることができるので、民主主義・寛容・協力の新しい時代をもたらすだろう」という社会的・政治的な結果について特に述べています。今となっては非常にナイーブな話ですが。それが私の歴史家としての仕事であり、哲学者としての仕事でもあるのです。

もしあなたがスタートアップや起業家であったり、新しい技術を開発しているのであれば、当然最もポジティブなシナリオに焦点を当てようとするでしょうし、ポジティブなシナリオがあるのは事実です。そして私のような人間は、危険性があることを反対側に提示することが仕事になるのです。

ナイフは「それを使って何をすべきか」を教えてくれない

ユヴァル:歴史上、ポジティブな可能性しかないテクノロジーは1つもないと思います。包丁は、サラダを切るのに使えます。外科医は誰かの命を救うために使うこともできます。もちろん、人を殺すのにも使えます。ナイフは「それを使って何をすべきか」を教えてくれません。

20世紀に登場したマス・コミュニケーション・テクノロジーも同じです。ラジオはさまざまな音楽の好みや政治的な意見などを放送するのに使われますが、それだけではありません。

(ラジオで)政府が独占して国民を洗脳し、全体主義的な政権を作ることも可能です。ラジオはあなたが何をしようと気にしませんし、あなたが何をしようとしているのかを教えてくれるわけではありません。だからこそ、私たちは革新者や開発の最前線にいる人たちに、このことを常に思い出させなければならないのです。

例えば医師になるためには、ほとんどの大学や地域でいくつか医療倫理のコースを受講しなければなりません。医療倫理の知識や背景がなければ医師としての証明書を取得することはできませんが、コーダーになるには倫理は必要ありません。

今やコーダーは社会全体を形成している存在ですが、アルゴリズムは単なるコーディングアルゴリズムに過ぎません。社会全体、経済全体をコード化しているのです。

私たちは毎日、それを義務的な要件にしないようにしているのだと思います。「コーダーとしてシリコンバレーで働きたい」というのは素晴らしいことですが、勉強の一環としてコーダーのための倫理学を学ばなければなりません。

過去20年間、世界で最も賢い人々が取り組んできた問題

ニコ:1つだけ補足説明として、ユヴァルさんとメイムさんのご意見を伺いたいと思います。

これからライフサイエンスの世界で起こることを、過去20年間と比較した場合はどうでしょうか。テクノロジーの分野では、ハイテク開発の20年間を経験しました。そして今、ライフサイエンスの分野でも同じような動きがあるのではないかと期待されています。

ユヴァルさんは、この20年間のテクノロジーの進化から学んだことを、ライフサイエンスのイノベーションに引き継いでほしいと考えていますか?

ユヴァル:そうですね。基本的には、ナイーブにならないように、集中しないように、なにかを開発するように実験的に行います。

国や世界で最も恐れられている政治家やリーダーについて考えてみてください。「あなたが開発しているもので、その人が何をするか」を考えてみてください。そして研究室に戻ったら、これまでとは少し違ったやり方をするかもしれません。

なぜなら、私たちには選択権があるからです。テクノロジーをどのように開発するかは、私たち次第なのです。

過去20年間、世界で最も賢い人々が「どうすれば人々が広告のリンクをクリックするようになるか」という問題に取り組んで、残念ながら解決してしまいました。 今ではその反省点が見えてきましたが、通常科学や技術には、世界で最も頭の良い人たちが何年もかけて解決するような問題がたくさんあります。

ではなぜこの「広告クリック問題」に焦点を当てたのかというと、「もっと他のことに取り組んでもよかったのではないか」と思うからです。

例えば、政府の汚職を追跡するためのアプリの開発に取り組むこともできます。私や夫のスマートフォンに政治家の名前を入力してボタンを押すと、2秒後にはその政治家の友人や家族のリストが出てきて、その政治家が政権のさまざまな仕事に任命していることがわかります。このようなアプリが欲しいのに、なぜ私はこれを持っていないのでしょうか。誰かが作ればいいのに。

人間には「無意識のバイアス」に気づかせてくれる助けが必要

ニコ:心のウイルス対策も必要ですよね。

ユヴァル:もちろん。それはもっと大きなプロジェクトで、先ほどおっしゃっていたライフサイエンスの発展にもつながります。この20年間で情報技術には大きな革命が起きましたが、本当の意味での“大事件”は、情報技術の革命がバイオ技術の革命と融合した時に起こるでしょう。

スマートフォンやメールだけでなく、自分の体や脳に関する膨大な量のデータを集め、それをハックしてこのような世界に備えることができるようになるのです。私たちには、脳や心のための“アンチウイルス”が必要です。

メイム・ビアリク氏(以下、メイム):(笑)。

ユヴァル:現在でも、フェイクニュースは基本的に人間の弱さを逆手に取ったものだと思います。ハッカーやボットがあなたを監視することで、あなたが特定のグループに偏見を持っていることを発見するのです。

そして、その特定のグループに関するフェイクニュースを表示します。なぜなら、あなたは「今回は何をしたんだ」「クリックしたい」という、抗いがたい衝動に駆られるからです。

バイアスがかかっているので、フェイクニュースを簡単に信じてしまうのです。だから私は、企業とかではなく、私が特定のグループに偏見を持っていることを知っている「脳」のアンチウイルスが欲しいのです。そして私に「気をつけろ」と警告してくれます。

なぜなら、私たちは人間として「自分のことをほとんど知らない」という事実を受け入れるべきだと思うからです。

「自分の人生や自分の決断、自分の意見を完全に知ってコントロールしている」という自由意志の概念や幻想を持っていますが、それは事実ではありません。私たちの意見や決断の多くは、私たちの中にあるプロセスや、私たちの外にある理解できないプロセスの結果なのです。

そしてこの時代には、こういった新しい種類の操作から自分自身を守るための助けが必要なのです。

テクノロジーの発達と「不条理なトレンド」

ニコ:メイムさん、1つだけいいでしょうか。ユヴァルさんが言及していたことです。「科学はすべてに答えることはできないし、倫理的なジレンマへの対応策を提供することもできない」。倫理的な問題に関して、科学者やエンジニアの役割とは何でしょうか。

例えば「バイアス」のようなものです。倫理的な生命科学のビジョンや、今後の科学の発展についてもお聞かせください。

メイム:みなさんが今おっしゃったことの中には、私が答えたいこともいろいろあります。

私たちが下す決断を、人間の「個人差」というレンズで見ることは重要だと思いますね。みなさんがおっしゃったように、人間の反応や行動、処理の仕方が決まっているという期待を持つことはできませんが、アメリカで起きていることを考えるのは非常に難しいことです。

イスラエルも同様ですが、「科学が外部からの影響で損なわれてはならない」という考え方には特に問題があり、科学者にとっては非常に厄介なことだと思います。

私が「倫理」という概念を初めて考えたのはクローン技術だったと思います。学術的なキャリアをスタートさせる前にクローン作成が行われたのですが、そのばらつきを見るだけでも非常に興味深いものがあります。クローンの意味するところについて、非常に神経質になっていた人たちもいました。

このような状況を何度も何度も目にしてきましたし、これからも目にすることになるでしょう。私の専門は神経科学におけるイノベーションやテクノロジーではなくて、神経精神医学と強迫性障害、そして人間との関わりです。

実際、テクノロジーが生命科学の未来の出会いの基盤になっていることを目の当たりにしました。そのような相互作用は、世界が小さくなる素晴らしい方法と、それによる実に複雑な意味合いを示す驚くべき例だと思います。

ユヴァルさんの説明がとてもおもしろかったのでこのあたりで失礼しますが、先に述べたように、こうしたトレンドの多くが「不条理」であることに対して、ユーモアのセンスを持てることにも感謝しています。