新たな技術を社会にどう組み込むか?

城山英明氏(以下、城山):ただいまご紹介いただきました城山でございます。これから2つ目のセッションを進めていきたいと思います。

先ほどのセッションでは、AIなど新しい情報技術を社会に入れていくときのある種の評価基準のような話をさせていただいたんだろうと思います。

通常、AIを社会に入れていくときの影響ということで言うと、例えばいろんな意味での効率化だとか、あるいは失業がどうか、そういうところに目が奪われがちです。ですがそうではなくて、「幸せ」や「Wellbeing」の観点はどういうものがあるのか。そういう意味では、「評価基準を少し幅広に考えましょう」というあたりの話をしていただいたのではないでしょうか。

そのなかでとくに、意味の発見の支援とか、不安を手なずけるとか、あるいは自律的な意思決定を支援するという側面に光を当てていただいたと思います。

ただ、この自律性というものが本当の自律性なのか、ある種の思い込み、自律性の錯誤なのではないか、という問題があります。このあたりは、3つ目のセッションでもおそらく議論されるのではないかと思います。

思い込んでいる人に真実を明らかにして改心を迫る、というのは果たしていいのだろうか、とかですね。本当はそうした問題もあって、そのあたりも議論したいところなんですけど、それはおそらく最後のセッションで議論されるでしょう。

いずれにしろ、その幅広い評価基準自身もよくわからないけど、そういうものにもとづいて考える必要がある、というのが1つのメッセージであったと思います。

そんな第1セッションに対して、この第2セッションは、そういう幅広い評価基準にもとづいて実際に技術の役割を考えたり、社会に技術をどのように受け入れていくかと考えるときに、いったいどんな仕組みを作ればいいのか、というところに焦点をあてたいと思います。

セッションのタイトルとしては、「新しい技術開発に貢献するELSI」です。ELSI、これは倫理的、社会的、法的な課題ということになりますが、先ほど議論されたような、幸せとかそういうこともこの中に入ってくるわけですけれども、こういうものをどんなかたちで技術開発にフィードバックしていくのか。

研究開発の現場にどうやってフィードバックするのか、あるいは企業の現場の方にどのようにフィードバックするのか、ということを議論の焦点にしたいと思います。

ただ、おそらくその対象は研究開発者だけではありません。例えば第1セッションの議論でも、結局、技術のほうの問題もあるんだけれども、それをどういう心持ちで社会なり人が使いこなすか、受け止めるか。実はそちらも重要だという話もありました。

逆に、そうしたある種のアセスメントの結果というのは、研究開発が主たる対象ではありますが、同時に社会なりそれを使っている人たち、ユーザーにどうフィードバックするのか。おこがましい言い方をすれば、ある種のリテラシーといいますか教育プログラムを作るのか、ということも関連してくるので、そこにも少し議論が移るのではないかと思います。

城山:このセッションの進め方ですが、コンテクストを作るために私のほうでも5分ほどお話をさせていただいて、その上で3人のパネリストのみなさまに、7分ずつお話をいただくかたちで進めたいと思います。

趣旨としては、小長谷先生はまさに理科系工学系の研究者として現場にいらっしゃって、その中からこういう課題について、ELSIをどう考えるのか、あるいはどう取り入れるか、ということを現場で考えられている立場でまずお話をいただいて。

次に標葉先生のほうから、研究開発の現場と社会をつなぐようなプロジェクトをやっておられますので、そういう中間的な距離の観点からお話をいただく。

最後に新保先生は、比較的大きな話になるのかもしれませんが、社会全体としてどんな仕組みを作っていったらいいのか、そういうことに関する概観と、逆にそういう仕組みをうまく作っていくための仕組みですね。法制度だったりELSIを考えていくための枠組みを支援するあり方など、そうした少しメタな話についてお話しいただくことになるのではないかと思います。3先生のお話いただいたあと、議論させていただき、みなさんからの問題提起をいただきたいと思います。

テクノロジーアセスメントを行う意味

城山:では、私からお話ししたいと思います。こうした技術が社会に入っていくとき、いろんなインプリケーション(結果として生じること)があるので、それらをふまえて技術をどう扱うのか、あるいは技術と社会の取り方をどう考えるかということは、おそらくこれまで議論されてきた枠組みで言うと、いわゆる「テクノロジーアセスメント」の1つの形態なんだろうと思います。

テクノロジーアセスメント、言葉は聞かれた方も多いかもしれませんが、言葉だけ見ると「技術の評価」と思われますが、技術それ自体というより技術が社会にどんな影響を持つかということなので、あえて私はこの「技術の社会影響評価」という意訳をしているんですが、むしろ社会に対する影響の評価なんだろうと思います。

ポイントははなにかというと、おそらく同じ技術であっても社会が違えば当然影響は違うわけですし、極端なことを言えば、人によって影響は違ってくるわけなので、その技術を考えることも重要なんだけれども、技術が使われる社会とコンテクストを考えることが重要なんだろうと思っています。

重要なことはその影響を幅広く洗い出すことです。影響というのは必ずしもリスク、マイナスだけではなくてプラスもあります。

しばしばアセスメントというと、ネガティブチェックとしてみられ「リスクがあるある」というかたちで研究開発を止めてしまうのではないかという理解もありますが、そうではなくて、むしろいろんな意味でのポジティブな便益も明示して、それによっていろんな関係者がバランスよく判断をしたり、あるいは自分、それぞれのアクターがこの技術との距離感を考えられるようにするということが重要な役割だと思います。

テクノロジーアセスメントは、もともとはこうしたアセスメントをして、それを社会の関係者や意思決定者に伝える、市民や政治家、行政に伝えることが主たる対象だったわけですけれども、同時にイノベーションを支援する。つまり逆に技術を作っている研究開発者にフィードバックするというのも、テクノロジーアセスメントのあり方としてあるのではないかと思います。

例えば、今議論しているような情報技術やロボット技術であっても、通常議論されるような雇用への影響や安全性、セキュリティという課題もありますが、同時にロボットの倫理的地位とか、こういったものをどう考えるかということも重要になってきます。

これをどこでやるのかというのはいろいろ議論はあって。国会でやったり行政府でやったりするわけですが、ここでのポイントは研究機関、大学、企業ですね。研究開発の現場にフィードバックするというのも大事です。

従来は議会にフィードバックしたり行政にフィードバックするのが中心でしたが、そうではなくて、むしろネットワーク分散型でアセスメントの結果を研究開発の当事者等にフィードバックすることも必要なんだろう、ということであります。

社会が違えばアセスメントの焦点も変わる

城山:少し日本の現状を見ると、いろんなところでAIの議論は行われています。総合科学技術・イノベーション会議、経済産業省、総務省等とありますが、おそらくそれぞれ見ているレイヤーが違うんだと思います。その中で、我々はこのRISTEXの中で「人と情報のエコシステム」ということでやっているわけですが、この比較優位をどこにおくのか、ということを考えなければいけません。

例えば経済産業省では、経済構造の変化というのがある種の独占や寡占に向かってしまう可能性があって、そのコントロールを独禁法でどうやるか、ということに焦点を当てます。それから総務省は、これは役所ではありますが、研究所が主宰になって比較的多様ないろんな含意を総括的に見るということをやっています。

それに対してRISTEXは、やはりJSTの中にあって、その研究開発とまさに今日のテーマである人文社会をどうつなぐのか、というところのシステムをどのようなかたちで作っていくことが可能なのか、ということが課題なので、そのあり方について議論をしたいということになります。

また、どういう側面に目を当てるのかというのも、実はテクノロジーアセスメントによって違っています。ヨーロッパはやはり労働市場とかオートメーションということを議論することが多いですが、アメリカなんかだとむしろ軍事的な利用だとか政治的な意思決定の阻害ですね。ロシアによる大統領選挙妨害だとか。そうした文脈で議論されるので、やり方と中身の2つの側面で我々はどういう特色を持てるのか、ということが重要なのではないかと思います。

簡単なバックグラウンドですが、このあとは3人の方にお話をいただいて、その上でパネルディスカッションを進めていきたいと思います。それでは小長谷先生、よろしくお願いします。

DNAをベースに作る「分子ロボット」

小長谷明彦氏(以下、小長谷):ありがとうございます。東工大の小長谷です。

 

今日は新しい技術ということですが、私がAIを研究していたのは1980年代の第5世代計算機プロジェクトの頃の話で、遺伝子やゲノムの研究を始めたのは1990年代からなんですね。そして、2010年代から取り組んでいるのが「分子ロボット」という技術になります。

今日ほとんどの方が分子ロボットという言葉を初めて聞いたのではないかと思うんですが、これは東北大の村田智先生が2010年に言い出したコンセプトです。

彼はもともと機械式のロボットを研究していました。ところがある日、電子機械によるロボットには限界を感じたのです。彼は数センチのサイコロ型ロボットなどを作っていたんですが、電子機械だともうそれ以上に小さくならない。

だけど、生物はもっと高性能にできているじゃないか、ということで、ある日、生体分子を使って「感覚」「知能」「運動」というロボットの3機能を持つようなものを作りたいということを言い出しました。

そして、DNAをベースに分子ロボットを作ろうと話を進めたのです。幸いなことに、これは研究者にとっては最大級の科研費のサポートなんですが、2012年から新学術領域研究「分子ロボティクス」としてプロジェクトを5年間行うことができました。

このプロジェクトは2017年3月に終わってしまったんですけれども、幸い事後評価でA+をいただいて、予想以上の成果を出したと評価されています。

この分子ロボットプロジェクトの中でどういう研究をしてきたかというと、アメーバみたいに動くロボットを作ろう、あるいはスライムというか、ナメクジみたいなもので動くようなものを作ろう、ということをコンセプトとして、そういったものを生体分子を使ってどうやったらできるんだろうかという研究をここ5〜6年で進めてきました。

生物と無生物のあいだ

小長谷:アメーバ型分子ロボットというのは、DNAと微小管と分子モーターをリポソームという脂質二重膜の中に入れたもので、実際にこうやって変形運動を起こすものを人工的に作ることができました。

しかもこの分子ロボットは制御可能で、ある種のDNAの信号を与えれば、変形動作を止めることができますし、また別なDNAの信号を与えれればまた再開するとか、そういうことができる技術がすでにできあがっています。

さらに新学術領域「分子ロボティクス」の後継プロジェクトとして、サルコメア構造という人などの生体の筋肉の基本構造を、微小管や分子モーター、DNA折り紙などの生体分子を組み合わせて作ろうという研究をNEDOのプロジェクトで行っています。

これもまだお見せできないんですけれども、かなり動いています。ですから、そういう生体分子を使って人工的なシステムを作ることは技術的にはすでに可能なところまで来ている。もちろんまだまだpreliminary(予備的)な状態ですけれども、先端的技術としてはすでにそうしたことが可能になっているのは事実です。

これまで人工的に生物を作ろうという研究は、合成生物学というフィールドで行われてきていました。合成生物学は、大腸菌とかマイコプラズマとか、そういうバクテリアに対して人工的に遺伝子を組み込んでいろいろな生物を作ろうという技術でした。

ところが、分子ロボットはなにが違うかといいますと、生物みたいに自律的に動作しうる存在なのですが、明らかに生物ではない。そういう生物と人工物の中間的な存在ができるようになったということなんです。