「同意を取れば大丈夫」は間違い、統計的差別を防げない理由　データを“使う側”に義務を課すことが唯一の解決策 [2/2]

差別の対象者ほど不利な統計で評価される非対称性

木村：ところが相手を侮っていると統計を使ってしかも不利益な判断をしてしまうということです。例えば職場で結婚したら女性は辞める可能性が高いんだよねという統計はさんざんこれまで使われてきたわけですね。

でも例えば統計を見ると、男性って女性より犯罪率が高いんですよ。でもそういう統計って職場での判断で使われてこなかったじゃないですか。

武田：はいはいはい。

木村：これが女性差別の一環で。つまり差別対象になっている人は統計的に不利益な判断をされやすくて。差別対象にならないような人は不利な統計があっても無視されやすい、ということになるんですね。

なので統計的判断をすること自体が良くないことである、相手を尊重しないことなんだと考えていくべきです。

なので統計を作る時ではなくて、統計を当てはめて判断をすることが相手に非常に失礼なことをやっているんだと。そう考えていくことが重要だということを最近有識者が言い始めていて。

個人情報保護法って今まで個人データを使う時にデータ主体がコントロールできるんだと。個人情報コントロール権を保護するためのものなんだという理解が広まっていたわけですけれども。

調べていくとそうではなくて、データ主体の側ではなくて、データを使っている側の主体が守らなければいけないさまざまなルールを決めたものなんだと考えていくべきだ。そういう指摘が今強まってきているところなので。

みなさんもぜひ、コントロールではなくてデータを使って相手に評価決定をすること自体が非常に緊張感を強いられる場面だと。そう考えてほしいと思いますね。

武田：自分の親しい人や目の前にいる人、どういう人かを知っている付き合いのある人に対して、何か統計をかぶせていくことはなかなかないと思うんですけれども。

自分が知らない場所にいる人や、自分と近くにいるわけじゃなくて遠くにいる人に対して、あの人はこういう人だ、ここではこういうことが起きているんじゃないか、と想像する時に、おそらく統計的なものを適当に好都合に使っていくことを、どうしてもしてしまうところがあると思うんですけれどもね。

もちろんそれはよろしくないことなんですけれどもね。

木村：統計を使う時に個人に対する行為の決定について統計を使ってはいけないということであって、マクロな政策などを作る時とか。あとちょっと専門的な話になるんですけれども、人間に対する判断って、人格を評価している時と、物体として評価している時があるんですよ。

例えばこの場所に何時間以上留まった人は感染症に感染している確率が高いというのは、統計的判断ですけれども、不当な判断には思えないですよね。

武田：うん。

「人格判断」と「客体判断」で異なる統計使用の許容範囲

木村：これ何かっていうと、感染症にかかっているかどうかはその人の意思に基づく人格的な行為ではなくて。客体としてウイルスに冒されているかどうかの判断をしているので。

この場面で統計的判断をすることは、その人の人格を貶めているのではなくて、人体という物体を対象としているので、少し判断の性質が違う。専門的に言うと人格判断と客体判断の違いと言ったりするんですけれども。

そこは統計を使っていいかどうかの分かれ目ですね。客体判断する時は統計を使っても許される場合はけっこうあるんですが。正確であればという前提ですけれども。個人の人格を判断する時に統計を持ってくるのは、相手の人格を否定しているんだと、この線引きが重要です。

武田：その線引きはでも本当にケースバイケースで一個一個考えなければいけないから。ある人にとってみたらこれは統計で判断してしまってかまわないんだと……。

木村：統計的判断はやる側にとっては便利です。だから禁止する必要があるんです。

武田：うーん、そうですよね。で、ありとあらゆることは、どんな統計でも取ろうと思えば取れるという乱暴さがあるじゃないですか。まったく根も葉もないことを言いますけど、例えばチョコレートアイスを食べる人は怒りやすいということを。例えば10人、50人にアンケートを取った時に「そうだったんですよ」と言い張れなくもない怖さはありますよね。

木村：そうですね、統計は都合よく作れるところもありますけれども。それは統計的な正確性の判断ですね。仮に正確な統計であったとしても個人に当てはめることは失礼だという感覚も必要じゃないでしょうかね。

こういうのはやっぱり統計という領域に、差別禁止法の発想を入れていく必要があるんだという話なんですよね。

統計の問題ってどちらかというとこれまでは自分が個人情報を誰に開示するかを自由に決められるんだという、自由な発想から考えることが多かったんですけど。自由と違って差別の禁止という話なんじゃないか、そう考えてみると個人情報保護法の意味も変わってきますね。

武田：うん。最初に木村さんが例として出してくださった、この地域に住む人は犯罪率が高いということは、けっこう本当にここ最近の選挙で、いろんな政党の人たちが、鉤括弧つきの外国人政策などを言う時に。

なんでその外国人のことを政策として非常に強めようとしているんですかと問われた時に、まさにこういう地域では犯罪率が高いとか、こういう人たちは犯罪率が高いということを簡単に枕言葉に使われながら議論することが増えちゃってますものね。

木村：そうですね、マクロな政策としてはともかくとして、ミクロにこの人は犯罪者かどうかを判断する時に統計を当てはめるのは、まさに差別的な態度ですね。

武田：うーん。差別禁止の原則でこの個人情報保護法を考えていこうということは、議論としては進んでいくことになりますかね？

木村：実は高木浩光さんという情報法の専門家が、個人情報保護法がなんで出来上がったのかを探求して研究が出ているんですけれども。

どうもそれは自由じゃなくてどちらかというと差別禁止に近い発想で出来上がってきた法律じゃないかと、いうことが明らかになってきていまして。そうやって読むと実は法律の意味も変わってくるというところですね。

個人情報保護法はプライバシー法ではなく差別禁止法の仲間

木村：個人情報保護ってどうしてもプライバシーに行くんですけれども、プライバシーだけじゃないんですよね。例えば女性差別って、女性である情報を使いますけれども、性別情報って隠しているプライバシーではないですよね。

でも女性であることを不利益に扱う情報として使っていいかというと、それは駄目でしょ。それは個人情報の不当な使い方でしょと個人情報保護法を使わなければいけなかったんで。

武田：うーん。

木村：そうするとプライバシーという観点から保護法を考えちゃうとちょっと間違った方向に行っちゃうんじゃないかというのは高木先生の指摘で。私もその通りだと思うんですけれども。

個人情報保護とプライバシーをいったん切り離して、むしろ差別禁止法の仲間なんだと思って見てみると理解が深まる。これはやっぱり5六金のように、いろんなものを横串を通して、縦横通して柔軟に発想していかないとわからなかったりすることです。

武田：個人情報保護法、私のことを知られたくない、情報を誰それに知られたくないことと、差別禁止の原理原則をのびのび使うことは、共存、並存できるものなんでしょうか？

木村：プライバシーを保護する法律は別にあります。あるいは別に作るべきでして、保護法はそもそも何のためにあるかというと、どちらかというと差別禁止法の仲間です。

個人を評価・決定する時に、関連性のない情報を使ってはいけないし、関連性のない情報を集めてはいけない。集めた情報も目的外利用すると、関連性のない差別になってしまいます。そういう発想で出来上がっていると思ってほしいですね。

武田：今それこそ、利用規約に賛同、読んでからちゃんとOKしてくださいねと言われても、なかなか読んでいなくて。細かい字でザーッと書かれていますけれども、それに一応同意したことになると、いろいろな情報が取られることの繰り返しが行われているわけですけれどもね。

木村：同意はあまり機能しないことも多いんですよね。職場であなたが女性であることで不利に扱っていいですかと同意を取った時に、なかなか職場で断れないじゃないですか。

武田：まあねえ。うん。

木村：だから同意の要求ではなくて、そもそも会社は使ってはいけないという義務を課していかなければいけないですよね。保護法は実はそうできています。同意だけでコントロールしようとはできていません。

同意はもちろん適性を確保するために重要なんですが、同意だけではありません。そもそもデータを使うこと自体が非常に危険な行為なので、データを使う人には義務がある。そういう発想で見ていく必要があります。

武田：そのあたりの観点は本当に欠けてるなと、今木村さんの話を聞いていてつくづく思いましたけれどもね。

西村：このコーナーは「PodcastQR」でも配信しています。ラジマガコラム『木村草太の「今朝の一手」』でした。