「ディストピア」は回避できるか？　さまざまな専門家と考える技術発展と人類の未来

近未来に起こりうる科学技術の進展

佐藤将史氏（以下、佐藤）：これからの10年ぐらいですね、2030年前後から以降というのをちょっと足元で見ていければと思うんですけれども、何が最初に起きていくだろうかということをまずはうかがいたいと思っていて、宇宙に人が住むとかって、まぁガンダムとか『スターウォーズ』の世界はまだちょっと先かなと思うんですけど。その手前の未来の中で一番最初に起きることを少し、何人かにおうかがいしていきたいと思うんです。

まずは私の中では安野さんかなと思っていて、『サーキット・スイッチャー』という本が2029年ですよね。あのへんの世界観からかなと思うんですけど、何が最初に起きるんでしょうか？

安野貴博氏（以下、安野）：そうですね。私が『サーキット・スイッチャー』という本の中で書いたんですけど。1つ、ものすごく社会にインパクトを及ぼすのが自動運転の普及だと思っています。実は先週サンフランシスコで「Waymo」という自動運転タクシーの会社が一般に営業を開始しました。今までwaitlistになっていたんですけど、本当に誰でも使えるようになってきたと。

これはやはり今移動で困っている方がたくさんいらっしゃいますし、それによって例えば通勤のスタイルであるとか、どこからどこに移動しながら生活をしていくみたいな、そういったことができるようになっていくので、ものすごくいろんなところに影響を及ぼすだろうなと思っています。

もちろん、この自動運転が普及することによっていろんなリスク、例えば「自動運転が事故を起こした時にどうすればいいんだ」「人を殺しちゃったらどうするんだ」というような話とかもあるんですけど、そういった議論も含めて、けっこうAI、機械が重要なことを意思決定していく社会をどう作るかということにもつながっていく話だと思うので、そういうのは盛り上がっていくだろうと思います。

SFと科学技術の関係

佐藤：Waymoはもう10年以上前から物としてはあって、ようやくリアル実装されたわけですけど、いろんな議論があったと思うんですけど、安野さんから見た時に、あれが出てきてそしてここまで受け入れられてきた背景って、なんかSFって絡んでいたりするんですかね？

安野：自動運転を描いたSFってそんなになくてですね。まぁ、あるんですけどそれがメインで書かれているというのはそこまでないので。

佐藤：『マイノリティ・リポート』とか？

安野：『マイノリティ・リポート』はなんかありましたね。確かに。まぁ、でも見たことがあるという意味では。

岡島礼奈氏（以下、岡島）：『バック・トゥ・ザ・フューチャー』（後に『トータルリコール』と判明）とかじゃないですか？

安野：『バック・トゥ・ザ・フューチャー』、自動運転……。そうか。

佐藤：『ナイトライダー』みたいな？

岡島：ロボットみたいな。

安野：空中を動いていましたよね。

佐藤：『ナイトライダー』は懐かしいですね。じゃあ、そういう意味ではSFの影響では必ずしもないかもしれないけどということですかね。

安野：まぁ、なくはないと思いますけど。発想は確かに埋め込まれたと思います。

佐藤：新しいものが今もう顕在化し始めているってことですね。

安野：はい、そうだと思います。

注目される技術領域

佐藤：ありがとうございます。阿部さんはいかがでしょうか？　阿部さんもいろんなライフサイエンスも、メカトロニクスも、宇宙もみたいな感じですけど。

阿部圭史氏（以下、阿部）：そうですね。私が個人的に注目しているというか、実現してほしい技術領域、注目している技術領域はまさにバイオのところですね。コーディネーターとか、バグズ手術とかって、『テラフォーマーズ』とかでありますね。ああいうバイオテクノロジーのところと、あと先ほど『ドラえもん』とか、『鉄腕アトム』とかがありましたけど、ガンダムもそれらも基本的にエネルギー源は核分裂や核融合炉ということで、核融合の議論も今はスタートアップ界隈で盛り上がっていると思います。

ただ、個人的には今後10年、20年ぐらいのタイムスパンで一番近いんじゃないかなと思ったのは、『攻殻機動隊』の電脳化技術と義体化の技術ですね。ついこの間、6月28日に「Apple Vision Pro」というゴーグル状のデバイスが発売されて、たまたまAppleストアに行った時に体験させていただいたんですけども、すごくてですね。視点を合わせれば全部ポイントが合いますし、もうこんなかたちで映画『マイノリティ・リポート』みたいな感じでやっているんですよね。これは1人の空間でもうなんか現実とこの仮想空間がわからないような感じなんですけども。それを見た時に『攻殻機動隊』の電脳化技術って近いんじゃないかというのをすごく感じましたね。

SF作品の影響と自意識の問題

佐藤：『攻殻機動隊』は世界的にもファンが多くていろんなところに影響を及ぼしているって言いますよね。まさにその義体という言葉を体現したスタートアップのGITAIさんなんていう会社さんもいらっしゃいますし、本当にインパクトが大きいです。なんかみなさんの中で『攻殻機動隊』の何かインパクトを感じるシーンとかって、どこかありました？

石井啓範氏（以下、石井）：私は『攻殻機動隊』も好きなんですけど、やはり究極的にその義体化が進んでいって、自分の脳がネットにつながれ、同じ話でゴーストの問題で、その自意識ってどうなるんだろうというのはすごく気になる。だから例えば今AIでその自分の人格的なものをそのネットの中に作ること自体はなんかできる気がするんです。

なんかそうなってきた時に最終的にじゃあその自分の自意識をコピーできるのかみたいな話になってきて、そうなってくると自分の自意識はどうなるんだみたいなところがまさになんか『攻殻機動隊』の最初のテーマとして取り上げたゴーストの問題になってくると思うので、そこらへんがこの先どうなっていくのかはすごく興味あります。

石井：ゴーストの概念で言うと死の概念が今後アップデートされるかどうかっておもしろいなと思っていて、昔は心臓死が死だったんですよね。今は脳死というのもありますけれども、そのあとじゃあどうなるのか、ゴーストなのかみたいな話があるかもしれませんからけっこうおもしろいかと思います。

安野：死の概念がアップデートされるのはかなりあると思っていまして、最近今デジタルネクロマンサーっていう単語で言われていたりするんですけど、生前のデータをたくさん食わせておいて、まるでその人がしゃべっているかのようにしゃべれる遺影とかが発売され始めています。これってなんか今は挨拶するくらいしかできないですけれども、そういったその人を模倣する技術というのがどんどん進歩していった時に、果たして死ぬというのが社会的な死がなくなる可能性もあるなと思っていますね。

佐藤：そうですよね。

石井：第三者的に見るとそう見えるんですけど、ただその一個人で見ると自意識が自分の体の中にあるわけじゃないですか。それが本当に将来的にその自意識そのものをどこかに、要は移動することができるのかどうかみたいなところがすごく気になっているところですね。

科学技術の発展と社会課題

佐藤：自分のコピーみたいなのも生まれるだろうし、他人から見れば自分は死んでいるのに他の人が自分を演じているみたいな、要は自分の定義がよくわからなくなってくる感じですよね。まぁ、これはこれでいろいろ考えることはありますよね。ということでちょっと、よくSF作品でユートピアかディストピアかみたいな議論があるんですけれども、少しディストピア的な話が出てきているのかなというふうに思っています。

要は科学技術が進んでくるとやはりその副作用というか変化に伴って社会課題というのが新しく生まれてくるところがあると思っていて、安野さんの作品もたぶんそうだったと思うんですけども。SFって古今東西そういう要素をけっこう孕んでいるんですよね。

ガンダムもそうですよね。地球環境汚染とか、宇宙で生まれた人と地球人の戦いとかというのはあると思っているんですけど。岡島さんにうかがっていきたいんですけど、今のみなさんのお話を聞きながら、これからこの科学技術が発展していって社会実装されていく中で気をつけなければいけないこととか、我々が留意するべきことがあれば少しコメントをいただきたいです。

岡島：え!?　すごく偉そうな感じになっちゃう。

佐藤：偉い感じでお願いします（笑）。

岡島：でも、やはりディストピア的な未来を考えられるというのがすごい人間のいいところだなと思っていて、それは悲観された未来ではあるんだけれども、じゃあそうならないように何ができるかというのを議論するための材料として非常にディストピア的な未来を描くって大事なことだと思うので、普通にふだんからでもね、最近でも特に科学技術とその社会の関係というのでよく議論されているのが、よく法整備とかですね。

スタートアップがいっぱい出てきて新しい技術が出てきた時に今の法整備が追い付いていかないみたいなのをどうやってやっていくかみたいなのの延長に近いのかなと思うんですけれども。そういったようなかたちでそのディストピア的な未来をもう何年先も予測して、こういうことを起こり得るというのをやって事前になんかどうすればいいかなと話し合う機会を持っておくというのがやはりね、いい感じの世の中を作れるようなヒントになるのではないかと思っています。

佐藤：ありがとうございます。安野さんは先ほど小説は、あくまでまず読み手の方が楽しくなるため、エンターテインメントためというふうにあったと。でも、やはりあの作品で書かれていることはたくさんの問題提起をしていると思うんですけど、そのあたりってどれぐらい意識されて書かれたんですか？

安野：そうですね。ある種の問題提起自体が新しい学びで、それ自体も読書体験としては良いものになっていると思うのでそういったものは取り込んでいったんですけど。やはり今おっしゃったとおりディストピア小説が一種の避難訓練というか、将来起こり得る何かの問題を事前に知っておくような機能を果たしていると思っています。

まだまだSFが描けていないものってたくさんあると思うんですよ。例えばコロナウィルスのパンデミックってあったと思うんですけど、あれって実はSFではあまり描かれていなかったタイプのもので、感染力は非常に強いけれども致死性は低いという状況で、なんかSFだと致死性が高いウィルスばかり書いていたので、意外とみんな備えができていなくてそういう意味ではまだまだ描かれていない将来のやばいディストピアがたくさんあって、それを書いていくというのは大事なことだと思っています。

ディストピアを描くことの意義

佐藤：ディストピアを描くというのはね、見るだけだと陰鬱な気分になるけど実はとても大事な訓練ということですね。ちょっと私ひとつ思い出したエピソードがあって、日本の研究者が（コロナより）3年ぐらい前に集まって、なんかいろんな分野の人が議論する会議があったらしくて、テーマが「どうやったら地球全人口を滅亡させられるか」。

議論をした結果、最後に残ったのが、やはりウィルスらしいんですよ。そういう会議って大事だなと、今ちょっとうかがいながら思いましたね。

安野：いや、まさにそうだと思いますね。作家とかで話すと、よくどういうふうにまさに大災害を起こすかとか、いろいろ議論したりするんですけど。なんかこれってセキュリティのエンジニアがレッドチームを作って攻撃のシナリオをプランニングするのとけっこう似ているなとも思います。

佐藤：本当にデバッグみたいな感じですね。

安野：そうですね。エンジニアの思考回路と似ている部分はあると思います。

技術者倫理と教育の重要性

佐藤：石井さん、もし何かその点であれば。

石井：最終的に結局なんか技術者倫理に落ちるのかなという気はしていて、今でも要は戦争に使われる兵器を開発するかみたいなところの線って、ある意味国によってぜんぜんバラバラで、日本は当然けっこうシビアなふうに見られているんですけど、海外に行くとぜんぜん軍事産業があるわけじゃないですか。その時点ですでに技術倫理のレベルが違っているというのはすごく思っています。

あとは技術者倫理としてどう考えるべきかみたいなものの教育とか議論って、あまりされていないようには思っています。なんとなく日本としてのエンジニアで育っているので、そういう流れで来ているというところはあるんですけど、そういう意味で言うと先ほど言った、どうすれば滅亡できるかみたいな、そういうのをなんか積極的に議論してみるというのもすごくおもしろいなというふうに思います。

佐藤：そうですね。もしかしたらSF作品がまたその教育のツールになるかもしれないというのもあると思うんですけど。阿部さんどうでしょう？　教育なんかにも携われることもあるんじゃないかなと思うんですけれども。まさにその科学技術の倫理みたいな話ってこれから軍隊は幸い、幸いなのかな、持っていない日本としてそれを逆にどう活かして技術倫理というのをうまく目指していくべきですかね。

阿部：科学技術の倫理というのは、もう本当に永遠のテーマだと思っていてですね。結局なんて言うんでしょうね。使う人間は、技術はアップデートされても、生物体としては人間はアップデートされていないんですね。どこまでいっても一緒というのがあるんじゃないかなと思っています。ですので結局使う人間次第というのがあります。

『銀河英雄伝説』なんかも非常に深いんですけれども、本当に宇宙大戦でワープだの何だのいっぱいあるんですけど、人間はまったくアップデートされていないというような感じですね。なので本当に技術というのはどの時代においてもデュアルユースがあるんだと。メスも人を救う道具にもなれば人を殺す道具にもなりますし、核エネルギーだってそうですよね。

なのでやはり本当に人次第ですので、本当に科学の倫理のところをどういうふうに教育に入れ込んでいくかというのは、日本は科学で成立している国ですから、そういったところは非常に大事かなと思います。

技術の安全性と人々の心理

佐藤：ありがとうございます。岡島さんは、実際に人工流れ星の事業とかをやっていると、なんか「それ危ないんじゃないか」とか、いろんな抵抗の中でも戦ったりすることもたくさんあると思うんですけど。このあたりの難しさとかも感じたりします？

岡島：そうですね。最初に「流れ星を流します」とかを言ったら「コロニー落としか!!」とかを言われたことがあるんですけど、ぜんぜんそんなことなくて。流れ星ってこういう小さい粒ですね。1センチメートルぐらいの粒を人工衛星から放出することによって作るという、そういう原理なんですけど。やはり本当にいろいろな方々が宇宙空間で物を出すという、放出するということに対しての懸念をけっこう教えてくれるんですよね。

それに対して一個いっこちゃんと技術的にこうやってカバーして安全を確保しますというのを、もちろん安全審査みたいなものがあって、そういうところでもちゃんと証明しますし、その公式なところではなくても1 on 1みたいな1対1で、NASAの偉い人とかアメリカのキーパーソンとか、そういう方に会いに行ってこういう安全対策をするから安全なんですよというのをちゃんと説明とかをしたりします。

その時にもやはりおもしろいなと思ったのが「宇宙ステーションより下で流れ星の粒を放出してね」と言われて、計算したら別に上だろうが下だろうが確率的には関係ないんですよ。ただ、やはり人間の気持ちってすごく大事だなと思ったのが「数字で問題ないのはわかるけどアンカンファタブルだ」と言われて、そこの人々の気持ちとかって本当に大事なところで、それがやはりそのSF思考とかで人の気持ちとかもけっこういろいろと考えられるというのはすごく大事だなというふうに思いました。

佐藤：なるほど。NASAの人がアンカンファタブルってなかなかロジックがなくて、すごいですね。すごいコメントですね。

岡島：そうですね。それはNASAの人じゃないんですけども、もうちょっとポリティクス寄りの方なんですけど。そういうこともありました。

佐藤：安野さんも小説を書く中で、そういう人の気持ちと科学のなんかこう利用の仕方みたいな話というのはけっこういろいろと考えられたんですか？

安野：そうですね。小説を書く中でも考えるんですけど、実際に直面するのはスタートアップを経営していた時ですね。やはりAIで契約書を読む、それでけっこう重要な意思決定をサポートするということになると、本当にそんなのを使って大丈夫なのかと。それで実際にちゃんとテストをしているんですよ。実際に弁護士がやるだけのケースと、ソフトを入れるケースでこっちのほうが安全なんだと。

確率では示されるんだけど、おっしゃるとおりですごく安全だけど安心感はないみたいですね。そういうのは本当に気持ちで「大丈夫です」というコミュニケーションを泥臭くやるのが一番効いたなと思っています。

佐藤：なるほど。倫理とサイエンスコミュニケーションというのは、もう切っても切り離せない関係ですよね。そのあたりもいろんなところを考えるところではありますけれども、ちょっと時間が押してきているところもありますので、最後のクエスチョンに移っていきたいというふうに思っています。お四方全員におうかがいしたいと思っています。

（次回へつづく）