ウェルビーイングと制度設計
ドミニク・チェン氏（以下、ドミニク）：では水野祐弁護士に「ウェルビーイングのリーガルデザイン」というお題で発表をお願いしています。彼は、僕と同じクリエイティブ・コモンズというムーブメントの同志で、アートやデザイン、IT産業にも造詣の深い法律家として、僕も尊敬している人です。
今回プロジェクトに入ってもらったのも、人の心をどう扱うかをきちんと法制度のところまでもっていかないと社会の中で回っていかないだろうということで、法律の世界では未開拓の分野だと思うのですが、切り込んでいただくような発表をお願いします。
水野祐氏：弁護士をやっております水野と申します。今年2017年の2月にフィルムアート社から『法のデザイン』という本を出しました。
弁護士として実務をやっていると、みなさんは法律や契約といった法にかかわることをふだんの自分の生活からはなるべく遠ざけておきたいものとか、自分の行動を阻害・規制するものとして捉えがちのように思えます。しかし法律や契約は、よりよい社会を設計するためや、ビジネスがよりドライブしていくため、クリエイターがクリエイティビティを促進していくためになど、ポジティブな方向にも設計できるのではないかと考えて、そういう視点でさまざまな事象について考えたことを本にしました。
今日は「ウェルビーイングのリーガルデザイン」というタイトルで話して欲しいということで、完全に書き下ろしで、まだ考え方が日本国内・国外でも定型化されていない話をします。
なので、まだ法をデザインする、ポジティブに設計するという議論すら成熟していない状態で、ウェルビーイングというテーマで法のデザインを扱うことは、未開拓な分野であるということを前提とさせてください。
まず『ウェルビーイングの設計論』（ビー・エヌ・エヌ新社 2017）という本を読ませていただいて、もちろん全体を通しておもしろいのですが、特に気になる、私の仕事や今後の法デザイン・制度デザインでかかわってくる箇所がいくつかありました。
たとえば、開発者が人びとを操作するためにテクノロジーを使うのではないか、ポジティブ・コンピューティングはプライバシーをさらに侵害するための言い訳として使われるべきではない、あるいは個人のデータがさらに分散して商業的なクラウドの中へと流れ込んでいく中で、プライバシー、セキュリティや自律性を適切に運用し、制御し続けられるよう、デザイナーや研究者がこの問題につねに敏感であってほしいと願う、といった、筆者の思いが書かれていた部分です。
まさにプライバシーや情報セキュリティ、さらにいえば、人の自律性や自律的な思考が本書の大きなテーマだといえます。そしてこの辺りのことは、おそらく私たちが今回の研究で法制度や社会制度を設計するためのガイドラインをつくり、制定する際に浮上してくるテーマだと思いました。
リバタリアン・パターナリズムの可能性
最近一部で注目されている「リバタリアン・パターナリズム」という考え方があります。リバタリアンというと、完全な自由主義という意味、パターナリズムとは逆に国家の介入・干渉のことです。この2つの相反する言葉は実は両立するのではないかという考えから生まれた言葉です。
この考えは、行動経済学でいうところの「ナッジ（nudge）」、つまり選択肢をうまく設計したり、初期設定、環境要因を変えたりすることで人びとを特定の方向へと選択を促していくような設計が可能だとするアプローチに関係してきます。リバタリアン・パターナリズムは、一部の研究者ほか、情報技術の設計の分野でも注目を集めており、『ウェルビーイングの設計論』の中でも紹介されています。
ポジティブ・コンピューティングという名のもとで情報環境を過剰に設計していくと、むしろ人びとの自律性を奪うのではないかという懸念があります。これはクリエイティブ・コモンズの提唱者でもあるローレンス・レッシグ（Lawrence Lessig）教授の言葉で言い換えると、アーキテクチャーという人の行動を規制あるいは可能にする構造的環境が過剰になると、人びとのコモンズを阻害するのではないかということです。
情報技術が発展していく中で、人びとは自らの生活において選択することはできずに押し付けられる形で、自動的に、しかも、これもレッシグの言葉ですが、「みえない形で」いつの間にか選択することを制限されているのではないかという懸念が『ウェルビーイングの設計論』においても紹介されています。
これを進めて、最近ではリバタリアン・パターナリズムの論者の一人である、キャス・サンスティーン（Cass Sunstein）が『選択しないという選択』（勁草書房 2017）という本を出しました。
ここでは、リバタリアン・パターナリズムの考えをさらに推し進めて、初期設定を変えていくと人びとをよい方向に促せるのではないかという話があります。人びとの選択肢を奪ってしまい、行動の自由が過剰に制限されてしまうという懸念に対して、最初に人が「選択をしない」という選択をし、自分に合ったような環境を、初期設定を選択すれば、その後は考えずに選んでいける、それは人びとにとって楽なのではないかと考えます。
これがもしかしたらウェルビーイングなんじゃないかという言い方も可能かもしれない。このようなレベルにまで、リバタリアン・パターナリズムを推し進めている議論も出てきています。この『選択しないという選択』という本は今読まれるべき本だと私は思います。
ブロックチェーン技術が拓く社会アーキテクチャー
もうすこし現実的な問題の話として、昨年の2016年12月に「官民データ活用推進基本法」が公布・施行されたことにより、これからはおそらく官も民も含めて個人情報もビッグデータも含む、さまざまな情報の活用と保護についての議論が加速していくということがあるでしょう。
たとえば、情報銀行みたいなものの議論が行われはじめています。これは個人が企業や社会によりよい形で、自分の個人情報を預託し、情報を活用していく機関として想定されています。こういった、データ活用におけるプライバシーやセキュリティといった個人にかかわる情報の利用・取得ということに、ウェルビーイングは強く関係してくるのかなと思います。
そこではどういった設計論が妥当なのか、自律性やコモンズをどう確保するのかというような点があがってきます。今後進められていく議論なので、ここでは論点出しをしました。
もう1つ、私が今仕事でもかかわっていてとても興味のあるブロックチェーン技術、スマートコントラクトについてお話したいと思います。
最近話題の分散台帳技術と訳されるDistributed Ledger Technologyと契約が組み合わさって、今後新しいアーキテクチャーが設計されるようなことが増えていきそうです。実際にEthereumというスマートコントラクトがすでに実装されています。
一方で、The DAO事件といった、プログラミングと契約の狭間で生じたバグをつかれて、60億円相当ほどの価値が盗まれるという事件がありました。こういったブロックチェーン技術、分散台帳技術が注目されているのは契約や法律が自動執行できる可能性なんだと思います。
つまり、今まで当事者の意思の合意、申し込みの承諾と合致によって成立していた契約がスマートコントラクトをはさむと、自動的に銀行やビットコインみたいなものと紐付いて、金銭に相当する価値へと移動することができる。
自動実行を可能にする技術はビットコイン以外の分野ではなかなか生まれていません。帳簿みたいなものはある程度可能だといわれていて、それ以外にも応用可能性がある中でこういった契約や法律の自動執行性は今後注目を浴びてくると思います。
ただ、それがいきすぎると過剰なアーキテクチャーやパターナリズムを招くという懸念もあります。今後ウェルビーイングの設計論の中で、こういったブロックチェーン技術やスマートコントラクトにおける自律性やコモンズをいかに確保していくのかということもみなさんと考え、議論していきたいと思います。
ほかにも、忘れられる権利などの人権とウェルビーイングの関係なども、研究しがいのある論点だと思います。私は人権や法哲学に詳しい人間ではないのですが、こういったところもすこしずつ研究していきたいと思います。今日、私が出した議論で、いろいろフィードバックをいただけると嬉しいです。本日はありがとうございました。
ドミニク：水野さん、ありがとうございます。今の、ブロックチェーンとウェルビーイングがどう関係するのかという話で、先々月『現代思想』（青土社）という雑誌のブロックチェーン特集に僕も書かせていただいたのですが、ブロックチェーンのおもしろさはお金のやりとりだけでなくてあらゆる現象のタイムスタンプとして使われるというところです。
ある現象が起こったということが、国家を超える公共性を持つデータベースになるので、たとえば僕の呼吸のログデータ、僕が何時何分にどういう呼吸の状態だったかというウェルビーイングにかかわるものを情報銀行的に扱える可能性もあるという話を書いています。
では、生貝さんお願いします。
自律をうながす規制
生貝直人氏：ありがとうございます。紹介にあずかりました生貝（いけがい）と申します。今回、僕もポジティブ・コンピューティングあるいはウェルビーイングという分野にかかわることになり、勉強しはじめたところです。
自己紹介を簡単にします。法制度研究の中でも特に、情報社会が豊かに安定していくための公共政策や、法律のつくりかたをどのように考えていくかということを専門分野にしています。その観点から、ガイドラインを含めて、ポジティブ・コンピューティング、ウェルビーイングがこれからの情報社会で上手く受け入れられるための制度設計を考えるためのアジェンダをいくつかあげていきます。
みなさん、法律をつくって世の中を規制するというと、国が細かいところまで決めて民間・個人はそれに従うという関係性をイメージするかと思います。
しかしさまざまな技術による情報発信が起こる社会で問題が発生したときに、細かいところまで決めてしまうとどうしても世の中がうまく回らなくなってくるということがあり、また法律を1回変えるには3～4年かかってしまう。したがって当事者の方が問題をよく把握している場合は、当事者が自律的にルール制定をするという方法論が重要になります。
そのとき、政府の役割はどうやってそれを促していくか、どのようなインセンティブを与えるかといったことです。このように官と民で協力し合いながら、ルールづくりをすることを共同規制と呼んでいます。
たとえばアメリカでは、プライバシーなどの分野において国は当事者たちでできるだけ対処してもらうようにしますが、自律的に問題が解決されなければ法規制に踏み込みます。ただし、当事者の方が事情をよく知っているわけで、自分たちでルールをつくってくださいねと促します。あるいは、公共調達などの際に望ましいスタンダードを指定して、そのスタンダードを段々広めていくという方法をとっています。
今の話は、リバタリアン・パターナリズムの観点での企業の自律性促進です。さらに企業だけでなく個人のレベルでも、自律性を重視しながら政策をすすめていこうと各国が動いています。
たとえば、英国政府の取り組みやオバマ政権の取り組みなどがあります。それらは行動経済学の知見を用いたりしていますが、その目的の1つは自律性（Autonomy） の尊重です。自律性を備えた人は、法律で決めたり押し付けたりすることがなくても自分でできるので、やってもらう。自律性がまだ備わっていない人の環境には、水野さんも言及した「初期設定」を行うとか、緩やかに働きかけるというような形で誘導していく。こういった方が、社会全体として、経済的にも効率的なのではないかという考え方が背景にあります。
データ活用によるウェルビーイングの促進
最近はIoTによってリアル空間でも情報による行動への働きかけができるようになりました。そしてそこで収集される膨大なデータに基づいた、いわばデータ・オリエンテッドな行動経済学的方法も議論されはじめています。
私にとって、IoTのアンビエントな情報環境の中でどうやってウェルビーイングな社会をつくっていくのかは重要なテーマです。今後、場合によっては政府が社会的に望ましいという理由で公共政策として特定の選択肢を後押ししたり、なんらかのことを義務付けるなどの関与もあるかもしれません。
こういった IoT との関係でリバタリアン・パターナリズムの議論が出てきています。最近だとテレマティクス保険などが話題になっています。
たとえば、急ブレーキをかけがちだとか、法的には違反していないけれどスピードを出しすぎだといった法律で細かく規制することはできないときに、こうすれば保険料が上がる、もしくは下がるということをカーナビの画面で適宜注意するメッセージを出してインセンティブによって働きかけ、人を安全運転するドライバーへと導きます。日本ではあまり知られていませんが、欧米では国をあげて後押しをしています。
ほかにも自動車業界でシボレー社が IBM Watson という人工知能と協力して、SNS でポジティブな投稿を行っていた人に対して、ガソリンをタダで提供しました。ポジティブな心理で運転した方が安全運転で間違いがない、という考えが徐々に進んできています。
さらに、オーストラリアのThe International WELL Building Instituteという組織が、空間設計において人びとが安心で豊かに暮らせる、ポジティブな環境のビルを認証する制度、WELL（WELL Building Standard）をはじめました。そこから公共的な建築にもポジティブを重視した認証システムのスタンダードを実現しようという試みがあります。このような民間でつくってもらった認証システムを国が後押ししていくという公共政策のアプローチは有用だと思います。
データと個人の間にあるリスクや可能性
一方で、IoTの分野やWebにおいて、使用者や消費者が知らないところで感情にはたらきかけることに関する批判も出てきています。たとえばFacebookが70万人を対象にポジティブ・ネガティブな投稿を選別してあえてみせると、ユーザーの感情にどう影響がでるのかという実証実験をやりました。このようなことを進めていくと、明らかに望ましい方へ進んでいく部分もあるのだと思いますが、やはり一切ユーザーに説明しないで行えばかなり多くの批判を生んでしまいます。
これからさまざまなガイドラインをつくっていく際に、それは大きく分けて二層で構成されるでしょう。1つはどのような設計をすればユーザーにいい影響を与えられるのか、もう1つは倫理的な部分を含めてリスクをどう考えていくかということです。
後者は人が知らないうちに行われる働きかけの是非をどう考えるのかということ。先ほども出てきたローレンス・レッシグの「環境を通じた規制は本人に不可視である」ということを重点的に議論していきます。誤った介入は本人の健全性や安全性にも影響してしまうのだから、「正しさ」をどう担保するのかということを公共政策の観点から考えなくてはいけません。
そして、個人の内面に侵入してくるもの、特にプライバシーや人の考え方に影響を与えるものに対応していかないといけません。そういうときの最低限の基準として「あなたのこういうデータをつかって、こういうような働きかけがされようとしている」という当事者が確認できる可能性、あるいはデータを利用してなにをしようとしているのかということの透明性について考えなくてはいけないと思います。
実験がエビデンスに基づいて多元的にしっかりやっているということを後から評価・検証できるということ、またやはりそもそも目的はなんであったのかを明示するくらいのことは考えなくてはいけないと思います。
こうしたときに参考になりそうなのが、ヨーロッパにおいて来年施行される法律のプロファイリングです。たとえばテレマティクス保険のように、個人のさまざまなデータを分析して施行することに対する法規制のやり方はとても興味深いと思います。
そこにはだいたい5つくらい要点があります。まず、①分析や評価に用いるアルゴリズムを消費者に説明すること。もちろんそうだと思うのですが、実際にはかなりむずかしいところがあります。そもそも人工知能はインプットとアウトプットの因果関係が外からではわかりにくいからです。それでもアルゴリズムについての説明を、プライバシーポリシーの中でちゃんと示していこうということです。
それからこれは個人情報保護の法律として②適切な数学的統計的手法を用いること、不正確なアウトプットの訂正というのがあります。これは民間、業界の側でつくる必要があります。つまり提供した情報やデータが間違っていたら、ちゃんと訂正できるということです。
そして目的をちゃんと明示して③商業目的の場合にはいつでもオプトアウトできること、④自動的なプロファイリングのみに基づく決定に個人が「従わない権利」を新しく設けることなどがあります。
たとえばある日突然、保険会社からあなたは10年後に癌になることがデータに基づいてわかったので、保険料を10倍にしますよと通知がきたとき、間違ったデータに基づいた誤った見解という場合もありますし、その時点ではわかりません。そういう場合を含めて、人間がちゃんと確認をするという関与ができるようにしなければなりません。ウェルビーイングにおいて社会の中で、個人のデータを解析して働きかけを行うときに、そこにいたる過程の透明性や本人がその働きかけに従うか従わないかといった選択肢を担保する必要があります。
最後に、⑤事前にインパクト・アセスメントを実施しましょうということです。以上5つのことが今後の私たちの活動のヒントになると思います。
最後にすこしオマケとして、最近私が関心をもっていることをお話します。いま個人情報はさまざまなプラットフォームやサービスに分散しています。そうした状況でいかに企業やサービスがデータを利用してより適切なサービスを個人に提供しようと思っても、断片的な「個人」でしかないわけです。
そこで欧米では「データのポータビリティー」という権利を設けて、さまざまなところに分散したデータを本人の元に戻して利活用できる法制度の設計が進んでいます。おそらく、ある個人をホリスティックに理解してその人がよく生きられるようなサービスを提供していこうとすれば、「データとして統合された個人」というものを前提に置く必要があると思います。そういう意味でデータの統合やポータビリティーも1つの論点としてあるのではないでしょうか。
駆け足ですが以上です。ご静聴ありがとうございました。
ドミニク：生貝さんありがとうございます。ヨーロッパは情報技術の規制が結構激しいです。この間もスカジャンを着た EU の議員の方が、情報規制、情報の扱い方について Google にサンクションを与えるということをいわれていて、この辺りの議論がかなり進んでいるのかなと思いました。
