分子ロボットからAIまで　新技術を社会に実装するとき、私たちが知らなければならないこと

新たな技術を社会にどう組み込むか？

城山英明氏（以下、城山）：ただいまご紹介いただきました城山でございます。これから2つ目のセッションを進めていきたいと思います。

先ほどのセッションでは、AIなど新しい情報技術を社会に入れていくときのある種の評価基準のような話をさせていただいたんだろうと思います。

通常、AIを社会に入れていくときの影響ということで言うと、例えばいろんな意味での効率化だとか、あるいは失業がどうか、そういうところに目が奪われがちです。ですがそうではなくて、「幸せ」や「Wellbeing」の観点はどういうものがあるのか。そういう意味では、「評価基準を少し幅広に考えましょう」というあたりの話をしていただいたのではないでしょうか。

そのなかでとくに、意味の発見の支援とか、不安を手なずけるとか、あるいは自律的な意思決定を支援するという側面に光を当てていただいたと思います。

ただ、この自律性というものが本当の自律性なのか、ある種の思い込み、自律性の錯誤なのではないか、という問題があります。このあたりは、3つ目のセッションでもおそらく議論されるのではないかと思います。

思い込んでいる人に真実を明らかにして改心を迫る、というのは果たしていいのだろうか、とかですね。本当はそうした問題もあって、そのあたりも議論したいところなんですけど、それはおそらく最後のセッションで議論されるでしょう。

いずれにしろ、その幅広い評価基準自身もよくわからないけど、そういうものにもとづいて考える必要がある、というのが1つのメッセージであったと思います。

そんな第1セッションに対して、この第2セッションは、そういう幅広い評価基準にもとづいて実際に技術の役割を考えたり、社会に技術をどのように受け入れていくかと考えるときに、いったいどんな仕組みを作ればいいのか、というところに焦点をあてたいと思います。

セッションのタイトルとしては、「新しい技術開発に貢献するELSI」です。ELSI、これは倫理的、社会的、法的な課題ということになりますが、先ほど議論されたような、幸せとかそういうこともこの中に入ってくるわけですけれども、こういうものをどんなかたちで技術開発にフィードバックしていくのか。

研究開発の現場にどうやってフィードバックするのか、あるいは企業の現場の方にどのようにフィードバックするのか、ということを議論の焦点にしたいと思います。

ただ、おそらくその対象は研究開発者だけではありません。例えば第1セッションの議論でも、結局、技術のほうの問題もあるんだけれども、それをどういう心持ちで社会なり人が使いこなすか、受け止めるか。実はそちらも重要だという話もありました。

逆に、そうしたある種のアセスメントの結果というのは、研究開発が主たる対象ではありますが、同時に社会なりそれを使っている人たち、ユーザーにどうフィードバックするのか。おこがましい言い方をすれば、ある種のリテラシーといいますか教育プログラムを作るのか、ということも関連してくるので、そこにも少し議論が移るのではないかと思います。

城山：このセッションの進め方ですが、コンテクストを作るために私のほうでも5分ほどお話をさせていただいて、その上で3人のパネリストのみなさまに、7分ずつお話をいただくかたちで進めたいと思います。

趣旨としては、小長谷先生はまさに理科系工学系の研究者として現場にいらっしゃって、その中からこういう課題について、ELSIをどう考えるのか、あるいはどう取り入れるか、ということを現場で考えられている立場でまずお話をいただいて。

次に標葉先生のほうから、研究開発の現場と社会をつなぐようなプロジェクトをやっておられますので、そういう中間的な距離の観点からお話をいただく。

最後に新保先生は、比較的大きな話になるのかもしれませんが、社会全体としてどんな仕組みを作っていったらいいのか、そういうことに関する概観と、逆にそういう仕組みをうまく作っていくための仕組みですね。法制度だったりELSIを考えていくための枠組みを支援するあり方など、そうした少しメタな話についてお話しいただくことになるのではないかと思います。3先生のお話いただいたあと、議論させていただき、みなさんからの問題提起をいただきたいと思います。

テクノロジーアセスメントを行う意味

城山：では、私からお話ししたいと思います。こうした技術が社会に入っていくとき、いろんなインプリケーション（結果として生じること）があるので、それらをふまえて技術をどう扱うのか、あるいは技術と社会の取り方をどう考えるかということは、おそらくこれまで議論されてきた枠組みで言うと、いわゆる「テクノロジーアセスメント」の1つの形態なんだろうと思います。

テクノロジーアセスメント、言葉は聞かれた方も多いかもしれませんが、言葉だけ見ると「技術の評価」と思われますが、技術それ自体というより技術が社会にどんな影響を持つかということなので、あえて私はこの「技術の社会影響評価」という意訳をしているんですが、むしろ社会に対する影響の評価なんだろうと思います。

ポイントははなにかというと、おそらく同じ技術であっても社会が違えば当然影響は違うわけですし、極端なことを言えば、人によって影響は違ってくるわけなので、その技術を考えることも重要なんだけれども、技術が使われる社会とコンテクストを考えることが重要なんだろうと思っています。

重要なことはその影響を幅広く洗い出すことです。影響というのは必ずしもリスク、マイナスだけではなくてプラスもあります。

しばしばアセスメントというと、ネガティブチェックとしてみられ「リスクがあるある」というかたちで研究開発を止めてしまうのではないかという理解もありますが、そうではなくて、むしろいろんな意味でのポジティブな便益も明示して、それによっていろんな関係者がバランスよく判断をしたり、あるいは自分、それぞれのアクターがこの技術との距離感を考えられるようにするということが重要な役割だと思います。

テクノロジーアセスメントは、もともとはこうしたアセスメントをして、それを社会の関係者や意思決定者に伝える、市民や政治家、行政に伝えることが主たる対象だったわけですけれども、同時にイノベーションを支援する。つまり逆に技術を作っている研究開発者にフィードバックするというのも、テクノロジーアセスメントのあり方としてあるのではないかと思います。

例えば、今議論しているような情報技術やロボット技術であっても、通常議論されるような雇用への影響や安全性、セキュリティという課題もありますが、同時にロボットの倫理的地位とか、こういったものをどう考えるかということも重要になってきます。

これをどこでやるのかというのはいろいろ議論はあって。国会でやったり行政府でやったりするわけですが、ここでのポイントは研究機関、大学、企業ですね。研究開発の現場にフィードバックするというのも大事です。

従来は議会にフィードバックしたり行政にフィードバックするのが中心でしたが、そうではなくて、むしろネットワーク分散型でアセスメントの結果を研究開発の当事者等にフィードバックすることも必要なんだろう、ということであります。

社会が違えばアセスメントの焦点も変わる

城山：少し日本の現状を見ると、いろんなところでAIの議論は行われています。総合科学技術・イノベーション会議、経済産業省、総務省等とありますが、おそらくそれぞれ見ているレイヤーが違うんだと思います。その中で、我々はこのRISTEXの中で「人と情報のエコシステム」ということでやっているわけですが、この比較優位をどこにおくのか、ということを考えなければいけません。

例えば経済産業省では、経済構造の変化というのがある種の独占や寡占に向かってしまう可能性があって、そのコントロールを独禁法でどうやるか、ということに焦点を当てます。それから総務省は、これは役所ではありますが、研究所が主宰になって比較的多様ないろんな含意を総括的に見るということをやっています。

それに対してRISTEXは、やはりJSTの中にあって、その研究開発とまさに今日のテーマである人文社会をどうつなぐのか、というところのシステムをどのようなかたちで作っていくことが可能なのか、ということが課題なので、そのあり方について議論をしたいということになります。

また、どういう側面に目を当てるのかというのも、実はテクノロジーアセスメントによって違っています。ヨーロッパはやはり労働市場とかオートメーションということを議論することが多いですが、アメリカなんかだとむしろ軍事的な利用だとか政治的な意思決定の阻害ですね。ロシアによる大統領選挙妨害だとか。そうした文脈で議論されるので、やり方と中身の2つの側面で我々はどういう特色を持てるのか、ということが重要なのではないかと思います。

簡単なバックグラウンドですが、このあとは3人の方にお話をいただいて、その上でパネルディスカッションを進めていきたいと思います。それでは小長谷先生、よろしくお願いします。

DNAをベースに作る「分子ロボット」

小長谷明彦氏（以下、小長谷）：ありがとうございます。東工大の小長谷です。

今日は新しい技術ということですが、私がAIを研究していたのは1980年代の第5世代計算機プロジェクトの頃の話で、遺伝子やゲノムの研究を始めたのは1990年代からなんですね。そして、2010年代から取り組んでいるのが「分子ロボット」という技術になります。

今日ほとんどの方が分子ロボットという言葉を初めて聞いたのではないかと思うんですが、これは東北大の村田智先生が2010年に言い出したコンセプトです。

彼はもともと機械式のロボットを研究していました。ところがある日、電子機械によるロボットには限界を感じたのです。彼は数センチのサイコロ型ロボットなどを作っていたんですが、電子機械だともうそれ以上に小さくならない。

だけど、生物はもっと高性能にできているじゃないか、ということで、ある日、生体分子を使って「感覚」「知能」「運動」というロボットの3機能を持つようなものを作りたいということを言い出しました。

そして、DNAをベースに分子ロボットを作ろうと話を進めたのです。幸いなことに、これは研究者にとっては最大級の科研費のサポートなんですが、2012年から新学術領域研究「分子ロボティクス」としてプロジェクトを5年間行うことができました。

このプロジェクトは2017年3月に終わってしまったんですけれども、幸い事後評価でA+をいただいて、予想以上の成果を出したと評価されています。

この分子ロボットプロジェクトの中でどういう研究をしてきたかというと、アメーバみたいに動くロボットを作ろう、あるいはスライムというか、ナメクジみたいなもので動くようなものを作ろう、ということをコンセプトとして、そういったものを生体分子を使ってどうやったらできるんだろうかという研究をここ5〜6年で進めてきました。

生物と無生物のあいだ

小長谷：アメーバ型分子ロボットというのは、DNAと微小管と分子モーターをリポソームという脂質二重膜の中に入れたもので、実際にこうやって変形運動を起こすものを人工的に作ることができました。

しかもこの分子ロボットは制御可能で、ある種のDNAの信号を与えれば、変形動作を止めることができますし、また別なDNAの信号を与えれればまた再開するとか、そういうことができる技術がすでにできあがっています。

さらに新学術領域「分子ロボティクス」の後継プロジェクトとして、サルコメア構造という人などの生体の筋肉の基本構造を、微小管や分子モーター、DNA折り紙などの生体分子を組み合わせて作ろうという研究をNEDOのプロジェクトで行っています。

これもまだお見せできないんですけれども、かなり動いています。ですから、そういう生体分子を使って人工的なシステムを作ることは技術的にはすでに可能なところまで来ている。もちろんまだまだpreliminary（予備的）な状態ですけれども、先端的技術としてはすでにそうしたことが可能になっているのは事実です。

これまで人工的に生物を作ろうという研究は、合成生物学というフィールドで行われてきていました。合成生物学は、大腸菌とかマイコプラズマとか、そういうバクテリアに対して人工的に遺伝子を組み込んでいろいろな生物を作ろうという技術でした。

ところが、分子ロボットはなにが違うかといいますと、生物みたいに自律的に動作しうる存在なのですが、明らかに生物ではない。そういう生物と人工物の中間的な存在ができるようになったということなんです。

ガイドラインをどう決めていくか

小長谷：では、どうしたら分子ロボットは社会に受け入れられるか、という議論は慎重に進めないといけません。そこで、2016年から分子ロボットに関するELSIという視点で、倫理の人たちと議論したいということを提案しました。幸い、JSTで採択されて、今、そうした調査研究プロジェクト、あるいは研究開発プロジェクトを進めさせていただいています。

ただ、ELSIというと、どうしても分子ロボットを外側から見ているイメージがあって、分子ロボットの研究者は「なかなかELSIって言われても……」という感覚が少しあります。

最近、もう1つ別な視点であるRRI、Responsible Research Innovationすなわち「責任ある研究とイノベーション」に関するワークショップを開きました。

この観点でいくと、どちらかといえば研究者目線といいますか、自分たちの研究や発明が社会に対してどう影響を及ぼして、その結果どういうレスポンスが出てくるのか、そんな視点で考えることができます。これからはこのRRIということをもう少し分子ロボットの研究者に考えてもらいたいと思っています。

あともう1つ、今進めているのは、ガイドラインの策定です。分子ロボットのガイドラインは誰かが決めてくれるわではありません。ですから、まず我々自身で原則やガイドライン、あるいは最終的にもし分子ロボットを医薬品として使うのであれば、医薬品ガイドラインがないかぎり許認可もできないので、このあたりも、倫理やガイドラインに詳しい人と一緒にやって決めようとしています。

ELSIに関しては、「誰がどうやって決めたらいいんだ？」というところが非常に大きな問題だと思っています。よく「アシロマ会議（注：遺伝子組換えに関するガイドラインが議論された会議）は成功した」というコンテクストで語られることは多いですが、あれは、ある人に言わせると、古き良き時代のバイオ版ウッドストックでしかないと言う人もいます。

要するに、ジャーナリストや政策決定者など、招待者だけの学術会議で決めるのではなく、そうじゃない科学コミュニティの外にいる人をどうやって巻き込むか。そこがこれから非常に重要になってくると考えています。

そこで今、標葉グループと一生懸命やろうとしているのは、そういった研究開発の側のコミュニティと、ELSIとか倫理とかいう側のコミュニティとの共創です。そこの間で共創することで、こういう分子ロボットみたいな新しい技術に対する新たなアセスメントの枠組み、そういったものが展開できればいいなと考えています。以上です。

リアルタイム・テクノロジーアセスメントという発想

城山：どうもありがとうございました。それでは続いて標葉先生お願いします。

標葉隆馬氏（以下、標葉）：成城大学の標葉と申します。よろしくお願いいたします。

我々、この領域でやっているプロジェクトは「萌芽的技術の倫理的・社会的・法的課題」（ELSI）と総称されますが、それに関するできるかぎりリアルタイムで近づけたかたちの評価、あるいは検討し、技術開発あるいは社会との共有して結びつけていきたい。そのためのトライアルをさせていただいています。

最初はTA（テクノロジーアセスメント）の話からいこうと思ったんですが、城山先生からすでにご紹介いただいているので、ここは割愛させていただきます。

要するに、萌芽的・先端的科学技術のプラスもマイナスも含めたいろんな影響を予測し、課題を明確化し、社会やいろいろな方々と共有し、その上で制度設計や、あるいは懸念の減少・改善、あるいは解消できないような問題があればモラトリアムの設定等に活かしていく。そういった役割がTAにはあると思っています。

その中の考え方の1つとして、2000年代初頭ぐらいから「リアルタイム・テクノロジーアセスメント」という考え方が登場しています。主要な論者の1人はアリゾナ州立大のグループで科学技術政策の分野で有名なDavid Gustonという研究者です。アリゾナ州立大はナノテク分野でも有名ですが、このグループはそのTAの研究で非常に有名で、その先生たちが2000年代からこのリアルタイム・テクノロジーアセスメントというものを議論してきました。

その内容は、まず、先端領域だからこそ、その研究動向をきちんと把握する必要があるということ。2つ目は、関連しそうな、あるいは類似の事例になりそうなケーススタディで、過去から教訓を学ぶ。そして、例えばメディア分析なども活用しながら、社会的な関心はどこにあるのか、どういうことが懸念として持たれうるのか、そういったものをなるべく早期に発見し、社会の中の議題構築に結びつけていく。その上でテクノロジーアセスメントとしてさまざまオプション、政策オプションも含めて提示していくというものです。

これは今だからこそようやく実現できる考え方ではないかと我々のグループは考え、これを実際やってみようということです。その中で、社会的関心と公共的な議題、あるいは政策的な議題等の、必ずしも一致しない議題群ですね。これらの関心の間を架橋できないかということです。

さまざまな視点から、科学技術の社会的課題を集める

標葉：その試みの1つとしてやっているのが、さまざまな社会的課題として抽出された関心事項を、ある種のコミュニケーションのプラットフォームを作成して共有していくということを目指しています。

ただ、これはコミュニケーションプラットフォーム形成は、今年ではなく次年度のクリティカルな課題となっています。今年度に関しては、先ほどご発表がありました東工大の小長谷先生がされている分子ロボティクスを事例としまして、それに対する社会的関心はどのようになりうるのか、あるいは研究者の側がふと気づくようなプラスもマイナスも含めた潜在的な可能性など、そういったものがどのようなものがあるのか、議題あるいは関心事項の探索的調査をまとめるという作業を中心的にやってきております。

そのなかで企画調査と今年度の中身から、まず1個目。今、公開準備中のものでもうすぐだと思うんですけれども、関連事項あるいは過去の事例にどのような課題がありうるのかというノートをまとめております。

またできるかぎり早く公開したいとは思っているんですが、現在はナンバー2として、例えばデュアルユースと絡めたときに分子ロボの問題はどういうことになってくるのか、といったものも準備している状態です。けっこうおもしろい知見が集まってきています。

ただここで1つ指摘したい問題として、私のようなというか、我々のようなというか、社会科学者の側だけがこういった問題を探査して調査して「ああ、こういうことあるんだな」って言って楽しんでいてもしょうがないということです。

つまり、そういった社会的含意や事例に関して、実際の現場の研究者・開発者の方と共有する必要がある。その中には、例えば「合成生物の事例だったらこういう展開があったよ」であったりとか。遺伝子組み換えの議論であれば、例えば研究者側からの情報発信という言い方でいいのかちょっと自信ありませんけど、そういったものが遅かったこともあり、社会の中での議題構築に研究者が取り残された事例なんかもある。

じゃあ社会とのコミュニケーションについての事例と一言で言っても、例えば最近では再生医療学会さんが非常に熱心にされていますが、調べた結果で言えば、研究者が伝えたいことと一般の方々が知りたいことは必ずしも一致しない。

例えば再生医療の事例であれば、研究あるいは医療応用の科学的妥当性やメカニズムを、どうしても研究者・開発者側は話したくなる。これはある種開発側としての人情だなとも思うんですけど。

一方で使う側からすれば、「じゃあいくらぐらいかかるの？」みたいな実際のコストのところであったりとか、「万が一のことが起きたときに誰がどう責任をとるのか？　対応してくれるのか？」といったリスクガバナンスの問題に関心がある。こうしたギャップを早期に把握する必要があるだろうというのも事例から得られる知見として出てきます。

あるいはメディアの話と絡めていくのであれば、分子ロボティクスはどのように想像され、かつ、イメージとして持たれて語られていくのか。これをつかむことによって、ELSI問題の早期のケアができるかもしれません。

ナノテクノロジーの例に見る、社会的関心の変遷

標葉：そういったものを実際やってみると、これはまだやってみたという段階のものなんですが、分子ロボティクスは、おそらくナノロボットやナノテクノロジー分野に近いイメージで語られる可能性が高いのではないかという結果になりました。その実態、分子ロボティクスの中身はどうあれ、ナノテク分野に近いイメージで語られる可能性が高いのではないかという見込みを分析の結果から引き出しました。

そこで実際メディア分析をナノテク分野に絞ってしてみると、国内であれば2000年代ぐらいに急に話題の内容がシフトするんですね。それまで基礎研究内容に関する報道ばかりだったのが、急に産業化のようなフレームに急にシフトしていく。

なにがきっかけだったのかというと、アメリカのNanotech Initiativeという政策プログラムが出てくるんですが、それが出てきたタイミングで、マスメディアであれば、社会部や政治部といった部署も報道するようになり、メディア報道の総体としてはずいぶん中身が変わって社会的関心の所在に影響を与えたのではないかということが見えてきました。

つまり、こういったことをもとに、国内ではどうだったのか、あるいは欧州の政策動向ではどうだったのかという問題を随時共有していく必要があるだろうということです。

むしろ私がお話しするのはおこがましいのですが、小長谷先生のほうで追加の予算を獲得されて実現できたワークショップがあります。それを先月、分子ロボの研究者の方、TA関連研究者、そして行政の関係者を交えた洞察ワークショップを行って、過去の事例の共有するという試みをやってみました。

その結果として、どういう将来像が描けるかというものをまとめています。もちろんその中には、先ほど安西先生がおっしゃっていた（ジョン）ロールズの話にちょっと関わるかもしれませんが、ナノテクの政策であれば、例えば、その研究が進むことによって欧州域内の格差が広がるようなことがあってはならない。ではそれを是正するにはどのようなオプションがありうるのか、みたいな議論もされている。そういったところも含めて共有し、将来像を想像するということを試みています。

当事者にとってのインセンティブが明確ではない

標葉：ただ、私自身はこういう研究をかれこれ12年ほどやっているんですけれども、どの事例に関わってもすごい難しいなと感じています。

これは一般的な問いとしてこのセッションに共有できればなと思っているのですが、違う分野の事例やたくさん知見はあるけれど、それを「他山の石」として活用することはやはりなかなか難しいと実感を持っております。非常に情緒的な表現で申し訳ないんですけれども。

では、それはなんなのかというと、当事者にとってのインセンティブが必ずしも明確に見えてこない。それはお金なのか、人が増えるのか、あるいは最終的な実装のしやすさなのか等々、という問題です。

評価の問題は「じゃあ義務化しちゃえばいいじゃん？」みたいな話もあるかもしれませんが、それであれば、どのような評価システムをもって、誰がどのような正当性を持ってデザインし実装するのかという問題と不可分な問題です。

過去の事例を見るのであれば、自分たちから自主的に行う活動、あるいはなるべく早く議論を進めれば進めるほど実装もしやすいようには見えるわけですが、ではどのような事例と教訓であればその当事者にとって腑に落ちるのか、という課題はやはり残されたままです。

こういった教育に絡む問題も含めて、この問題は議論する必要があるのではないか、という課題提供をさせていただいて、終わりにしたいと思います。

AIを巡る諸問題をどう解決するか？

城山：どうもありがとうございました。最後に新保先生、お願いします。

新保史生氏（以下、新保）：慶應義塾大学の新保と申します。

本日のイベントにおけるテーマの通り、新しい技術、とくにAIをめぐる問題については様々な課題があります。ELSIについて解決をしなければいけません。

ところが、このような問題に取り組むにあたっては、具体的な課題や問題についてどのように解決をして、どのように対応すべきなのか。

これは従来からのいろいろな研究分野で行われてきているわけでありますが、私が専門とする法学の分野でありますと、学説・判例を分析して、法令の解釈。つまりスタート地点が今の時点で、今までを振り返ってどうすべきかということを考えるという手法を主に取ってきています。

ところが、AIをめぐる問題について考えるときには、この手法ではなかなかうまくいかない。うまくいかないどころか、具体的にどのように解決すべきかということについて考えることができません。そのため、私のプロジェクトは「AI・ロボット社会共創プロジェクト」として、これからの課題をどのように考えるべきなのか、そのためにどのような仕組みが考えられるのか、ということを考えるのがこのプロジェクトの目的であります。

具体的には、文系の研究者の考えや研究、それから理系の研究者の考え・研究の手法はそれぞれまったく違うわけでありますが、問題が起きてなにかをしなけれればならないという状況と、さらにその問題についてどのように対応しなければならないのか。とりわけ分野横断型のテクノロジーアセスメントはどのようにあるべきなのか。さらに具体的に、どういう問題についてそもそもどのように考えるべきなのかということを、法的な観点だけでなく、経済、経営、技術的、倫理、いわゆるELSIの観点から考えることが必要です。

これについては、すでに政府においてもさまざまな観点で取り組みを行ってきているわけです。つまり、国内の戦略、政策の動向についても、具体的に生じている問題についてはかなり積極的な取り組みが行われておりますし、とりわけドローンなどは航空法をすぐに改正したりとか、人工知能の研究開発原則をG7伊勢志摩サミット2016に原則を提示したりといったかたちで、かなり積極的な取り組みをしています。

さらに個別の問題についても、これは私の情報法のグループで検討して整理をした結果についてですが、そもそも技術開発と社会的影響においてどのような影響が生ずるのかということ。

これは法学の研究者としてはかなりチャレンジングなことです。つまり法学者は、困ったときには非常に頼られますが、困らないとあまりその出番がありません。

そこで、困ってないのに出ていくというのは非常に実はチャレンジングでありまして。そこで具体的に社会的影響としては今後どのようなものも想定されるのかということも含めて検討を行っています。

今、考えなければならない5つのこと

新保：しかし、この枠組みの範囲では既存の研究の範囲を超えられませんので、そこで本日は「ではどうする？」ということを、5つに整理をして考えてみたいと思います。

まず技術の進歩に対しては、ELSIに対応した制度設計が必要です。これはわかっているところではありますが、将来的にどのようなリスクが生ずるかということはなかなかわかりません。

さらにもう少し大きな段階になると、そもそも人類にどのような影響を及ぼすのかということも考えておかなければなりません。さらにAIの普及によって実際にいかなる社会的な変化があるのかということについても、制度を作る側に回って考えるということが必要なわけであります。

では、制度を作るということは、その検討がどのようにあるべきか？　具体的に国の施策としてそれを促進する、利用する、悪用がなされることについて検討すべき方向性は明確なわけです。

その一方で、みなさまもご経験があると思いますが、とりあえずみんな集まる。集まってどうするかというと、とりあえず落とし所を決める。最終的に、今はちょうど3月ですから、みなさんも3月末の締め切りに焦りに焦って落とし所を探してるところだと思います。

ところが、具体的になにかを本当に検討しようと思っても、最終的な期限が切られていては、できる範囲は限られてしまいます。そうするとどうしても画一的な議論になってしまったり、多元的な議論ができません。

例えばマルチステークホルダーという用語がありますが、日本ではそもそもステークホルダーがマルチにいないので、なかなかマルチステークホルダーが実現しないという問題もあります。

さらに3番目に、どのように技術に対応して継続的に検討・研究をすべきなのか。バイ・デザイン的対応はAIとの関係で可能か？　バイ・デザインというのは、あらかじめいろいろと想定して、あらかじめ準備をして計画的に対応するということです。

具体的に、アセスメントという観点から過去に私が検討に関わったものとしてある程度成功したと考えているものは、特定個人情報保護評価（Privacy Impact Assessment）というものがあります。

これはマイナンバー制度を導入するときに、その影響をあらかじめはかるということで特定個人情報保護評価という制度を作って、そのために個人情報保護委員会、当時の特定個人情報保護委員会というものを三条機関として設置したわけです。これは具体的にアセスメント実施するということを提唱して結果的に制度の導入が実現した事例です。

その背景には、環境アセスメント、環境影響評価法にもとづくアセスメント手法というものがあります。

一方で、実際に具体的な問題が発生して特定の課題についてアセスメントをするという問題であれば、わりと明確にその方向性を示すことができますが、AIをめぐる問題については、なかなか今の状況ではなにが問題か、ということについて示すことが難しいのが現状です。

4番目。規制が「ある」ということと「ない」ということについては双方問題がありますが、規制がないことに伴う萎縮効果が技術開発にかなり影響を及ぼしている面もあります。

具体的に、例えば自動運転の車を公道で走行させることについては走行を禁止する規制は存在しません。ところが自動運転の車を公道走行させることについてはかなり萎縮効果が生じていて、自由に走行させるということについてはなにか問題があるんじゃないかと。問題があるとすると安全運転義務違反という抽象的な義務違反ぐらいでしょうけれども、そうすると自動走行を実現するための規制がないとできません。

さらに、日本の国内で規制しても、海外で規制されていないと意味がありません。ガラパゴス化になってしまうということなんですね。

そこで国際的にどうするかということについて、私は2015年に「ロボット法　新8原則」という原則を提示してみました。やはりイニシアティブをとってどう取り組むかということを考えていく必要があります。

そこで私の研究グループでは、今後は今お話しした仕組みをどのように実現をしようか試行錯誤をしているところです。毎月「AI社会論研究会」という研究会を開催して勉強会をしたり、ロボット法研究会という情報ネットワーク法学会に設置した研究会を開催しています。

これで、本当の意味での構造的にきちんと動いていくマルチステークホルダーとはどういうことができるのか、ということを探っている状況なんです。

ですから、本日はまだなにも結論もなく、今後の方向性についてどうするかということについてのお話もできませんが、現時点でこうした方向がありうるのではないかということで、新しい問題への対応についての課題解決の方法を提示したいと考えています。