大切なのは「支配」するよりも「共感」すること--AI時代の人とモノの関わりはどう変化するか

医療現場における課題

國領二郎氏（以下、國領）：ありがとうございます。それでは尾藤さんにお願いします。

尾藤誠司氏（以下、尾藤）：はい。ありがとうございます。すいません。ちょっと座ってると落ち着かないので、立ってお話しさせていただきます。

東京医療センターの尾藤と申します。私は基本、内科医でございます。現場でベタベタに患者さんと「困ったね」みたいなことをずっと話している人間であります。

このセッションの中でこういう現場の人間、医者が話すのはちょっと違和感があるかもしれませんが、私はわりと先ほどの安西先生のお話を聞いて、日常で自分が患者さんとやっていることが、なにか1つ未来の情報社会のヒントになるのかなと思っておりました。

1つは、医療は医学というなんとなく客体っぽいものを扱いながら、患者というめちゃめちゃ主体の人とやりとりをしていかないといけない特徴があるということです。

その中で先ほど言ったガイドラインとかアルゴリズムとかいろいろ我々は使っているんですけど、ガイドラインどおりに「薬飲みましょう」とか言っても、患者さんから「えー」とか「イヤだ」とか言われると出せないわけです。さらに「じゃあお好きにどうぞ」というわけにもいかなくて、「やっぱり飲んだ方がいいと思うんですけど」みたいなことをやっている。

こういうコミュニケーションのなかのいろいろな難しいものとともに、なんとなく情報を使いながら、うまく人が幸せになれるといいなということが、私が医療者としてやっていることなのかなと考えています。

実は「安心・安全を目指しましょう」って、最近20年間ぐらいスローガンのように医療の中で言われているんです。確かに安全なことが確保されて、その結果、安心になればいいんですが、一方ではその「安心・安全」が、なんか「これが正解だ」みたいな、時間を止めてしまう作用がある状況に大きな違和感を感じていました。

そこになにかあるのではないかというのが、このRISTEXでの事業に参加させていただいたそもそもの動機であります。

病院は現代のディストピア？

尾藤：その中で健康イベントの大きな特徴は、決断の物語だと思っています。その決断の中でなにかしらたくさんの情報だったり、あとは人とのやりとりだったり。そして、そのなかで葛藤して迷って「じゃあ手術します」「手術しません」みたいなことをやっています。

そこで内科医がなにをやっているかというと、私は手術もできませんし、薬なんか別に薬屋さんが作ってる薬を出しているだけですから、なにもやってないんですが。なにかをやっているとすると、先ほどチェンさんが言った、「見立てをしている」というのが1つだと思います。「この先に待ち受けるもの」を予測して情報提供しているという感じですね。

そしてもう1つはたぶん、専門家としていろんな情報になにか価値のようなものを付随して、そこで患者さんと対話をしているのだと思っています。

ただ、情報はあればあるほどいいものではないというのがおそらく現実です。とくに医療の情報はものすごく複雑かつ専門的なのですが、病院という場はその情報というものがとても人を縛ってしまう。人の価値をこちらのほうに、左なら左、白黒なら白のほうに追いやってしまうような雰囲気・場を持っていると思っています。

私は、現代のディストピアとして病院があるという仮説のなかで、このプロジェクトに関わっております。私のプロジェクトでやっていることは、そういう決断を1つ想定したときに、人とのやりとりや情報入手を、人間がどういうふうに心にセットしていって主体的に動いていくのか。

先ほど安西先生からのいろんなお話があったように、やはり哲学あるいは文学はすごく重要だと思っています。そして心理学、そして情報科学、このあたりの方の協力を得ながら臨床の事例を取り扱っています。

この1年で20名ぐらい、医療のなかでたいへん重い決断をされた方のインタビューをずっとやってきました。そのなかで、決断をする人がその根拠を自分の中に取り入れていくときに、いろんなものがあるということがわかりました。

その中にはたぶん止まっている情報と動いている情報、さらにはインプット・アウトプットの切り分けがないようなもの。こういうものがひょっとしたら対話だったり、内省だったり、葛藤だったり、そういうものなのかなと思っています。

そのなかで今、情報ややりとり、対話、そこで葛藤した自己の変容のモデル化というものにだいたいこぎつけています。

これからあと1年半でやることのテーマは、医療の世界において先ほどの「安心・安全」のファンタジーにとどまらずに、人間が不安を抱えながらどのように情報に向き合い、情報と付き合っていくか、ということを主体としたアクションを行うことにあります。

人は自らの不安を手なずけられるか？

尾藤：先ほど、安西先生が「獏としたものよりは具体的なイシューに入りこんだほうがいい」と言われていました。私たちがやろうとしている、「AIは人を幸せにするのか？」という問いを、私は最初にやった「人は自らの不安を手なずけられるのか？」というより具体的な問いに変換しました。生きているかぎりは危険ですし、その危険に対する不安に人間は寄り添わざるを得ない。

この仮説のなかで、不安を押し込んだり、否定したり、ないものとして取り扱ったりするのではなくて。不安は自分の中にあり、そして暴れだす。暴れる不安を押し込めるのではなく、制御するのではなく、コントロールするのではなく、手なずけたり、一緒になって仲良くなったりとか、乗りこなしたりとか。

こういうメソッドをあと1年かけて、臨床メソッドとして開発していきたい。できたら臨床応用をしていきたいと思っております。

それを私どもは、新たなコンセプトでの「セルフケア」と。自分を尊重し、そして他者を尊重し、モノを尊重し、モノに共感していくことができればと思っています。以上です。

（会場拍手）

國領：ありがとうございます。それでは私のほうから1〜2つぐらい、話題というか議論の提供をします。そのあとフロアから質疑まではいかないと思いますので。本当はお一人様20秒以内ぐらいにしたいんですけど、30秒以内くらいでご発言をいくつかいただきます。

そして最後にパネリストに締めの言葉をいただく。そんな感じでよろしくお願いします。

さて、今お話をおうかがいしていて、例えば、答えじゃなくて問いを設定するのは人間のものだよとかね。身体的な言語化されていないようなものや、自ら世界の整合性を作るというのも人間のものだというのが、こだわりどころのように思いました。

逆にいうと、このへんが侵食されると、人間はすごく不安になってなんか怖くなっちゃって、不幸せになるのではないかというのが、今おっしゃったことのような気がする。だいたいこの乱暴な理解でいいかどうかもちょっと確認しておきたいです。

AIにどこまでをやらせるのか

國領：それを申し上げた上で、「これらって本当に機械はできないのかな？」という投げかけを。例えば「問いを設定するっていったいどういうプロセスか？　これってひょっとしたら機械ができるのかもしれないですよね？」とか。

だとすると、たとえ機械にそれができても、人間が不安になるからやめておきましょうという、偽善的なAIを作れっていうことなのか。

まずはちょっとこんな大雑把な理解で大丈夫どうかぐらいのところにコメントをいただいた上で、これは本源的に本当に人間だけのものなのか、いや、そうじゃなくて、むしろ設計論として、こういうところを侵食するともう拒絶反応が来てしまうので避けたほうがいいよという考え方なのか。どんなもんでしょう？

安藤英由樹氏（以下、安藤）：なかなか難しい話なのかもしれないですが、そもそも人類が文字を獲得して、みんなが本を読むことで知識が得られるようになりました。でも、どの本がいい本かはわからないみたいな話があるわけですよね。

たぶんインターネットの世界はある意味そういう感じで、すぐに情報が得られるが、その情報が本当に正しいものなのかよくわからないし、そこに書いてあることに従ってやるのがいいことなのかもあまりよくわからないまま実行してるケースが、実は多いかもしれないなと考えていて。

逆にいうと、AIは判断材料を出してあげる機械としてはすごく意味があるとは思うんです。ここが難しいところで、行動をどこまでおすすめするか。あんまりおすすめしすぎちゃうと、結局その人が考えていることにならないので。

なんていうんですかね。たぶんAIはどっちもできちゃうと思うんですが、そのバランスをどう作るか自身が、むしろ本当に議論をしなきゃいけないところなんじゃないかなと。

機械と妖怪は似たようなもの

ドミニク・チェン氏（以下、チェン）：そうですね。今、安藤さんが最後におっしゃった、「人間が気づけないことに気づかせてくれる」というか、気づかせるためのツールとしての情報技術ということを考えています。

その話でよく思い出すのが、言語のコーポラを調べると、実は人文系の研究者でさえも気づいていなかったような人種差別的なバイアスが、すでに我々が日常的に書いたり読んだりしている文章の中に大量に含まれていることがわかったという研究です。

例えば、白人と黒人や男性と女性の名前それぞれのケースでの他の言葉との共起頻度を調べると、黒人の名前が出てくるほうがよりネガティブな語彙の文章が多いというようなことですね。それは人種差別的な意図もない場合でも、人間の無意識でのレベルで表出しているマイクロ・バイアスのようなものです。

それを過ちといってしまっていいのかどうかという議論はまた別かと思いますが、そのような事実を機械学習の結果で知ることは、放っておいたら人間の身体だけでは気づけなかったことに気づける。そのことによって、より差別意識を持たない、自らがなりたい人間になれるということでもあります。だからそれはすごく希望のある話だと思うんですよね。

だから人間と「機械技術」全般の関係性について考える時、私は常々機械技術のことを「妖怪」だと思って接するといいんじゃないかと思っています。つまり、妖怪というのは人文的に言うと自然現象の表象なわけですね。

例えば、津波で亡くなった方たちに対する生き残った人たちの物悲しさだったり、もしくは申し訳なさといった、どこにもやりばのない念、残ってしまった「残念」を消化するためにそういう表象を生み出してきたわけです。同時に、それは自然に対する畏怖の表れでもあるわけですよね。

それは自然を一方的に制御できる対象として捉えていないということなんですよね。機械が自律化するときに、それを第2の自然、第3の自然と考えるのかということはあると思うのですが、すべてを制御することはできないという前提に立つ必要があるのではないか。

機械は人間にはできないことができるが、それはそれ自体において善でも悪でもないというところで、じゃあどういう付き合い方をするか、したいのか。その議論に尽きるんじゃないかなと考えています。

モノへの共感や感謝の気持ちを持つ

尾藤：チェンさんのご意見を拾うようなかたちになるんですが、人が機械や物を支配する構造とか、脳が身体を支配するような構造が、たぶん今はちょっとそれは違うかもしれないと問われている。そういう時代に入ってきていることが、すごく私にとっては人工知能の登場と重なっています。

さも、「いや、これは機械には絶対できないはずだ。人間だけの特権である」とか「人間だけの能力である」って胡座をかいていると、まったく準備ができないまま混乱に陥るのではないかなという仮説を持っています。

この間オリンピックで、例えば羽生選手が、演技を終えたあとに、右足をしっかり握ってなにをやっていたかというと、「右足には感謝しかない」って右足に感謝してたんですね。

あと、小平選手が1,000メートルのトラックで、金メダルじゃなくて銀メダルをとった時に、アナウンサーが「銀メダルおめでとうございます！」って言ったら、ぜんぜんその話をせずに「今日は氷といい対話ができました」って言ったんですよ。

こういうのって、人工知能と人間との間を語る上でものすごく大切なことだと思って。モノを、止まっているもの、支配するもの、制御するものとして人間がずっと固い頭で認識し続けていると、おそらく不幸がやってくると思う。

むしろ、そのモノも動きうるものだし、そのモノに共感していく、ハピネスとか感謝を覚えていくことが、これから目指すべき人間のあり方かなと思っています。

大竹暁氏（以下、大竹）：研究をしてない素人なんですけど、科学技術をずっと30年もやってるといろいろ勉強して。

今さっきの、人間特有のものを機械ができるか？　これを脳科学者に伺うと、所詮我々の考えていることって、複雑だけど、化学反応でできてる。時間はかかるかもしれないけど、シリコンでそういうロジックを組んでできないわけがないと思うので、実は心理的にはあまり想定したくないけど、そういうことは起こりうるだろうと。

そうしたときに、今先生方がおっしゃったとおりで、だとしたら人間は制御するかどうかは別に、先ほどの従来の問題があったときは制御できたけど、そういうものができたときには人間がどう考えるか。やっぱり一歩上にいかなきゃいけないんだろうなと。

一歩上にいくってどういう意味かって、上から押さえるんじゃなくて。先ほどチェン先生がいろいろやってて、そうやって人間は賢くなる。やっぱり機械も賢くなるなら、人間も賢くなるって。

いろいろあるけれど、不幸にして知的になった人間は、この世の中でやはり幸せになりたいと思って生きているわけで。じゃあ機械が幸せになりたいってときはやっぱり共存を考えなきゃいけなくなるだろうし。それはもうちょっと先だけど。

だからやはり先生方もおっしゃるように、自分が判断できる余地をどう考えておくか。自分は判断するんだけど、それで全部をコントロールできるわけじゃないけど、判断してやっていくことは重要かなと思います。

統治ではなく調和で「秩序」をつくっていく

大竹：ちょっとだけ、とくに日本に心配なことがあります。この頃の若い人は変わってきてくれたんだろうなと思うんですけど、日本ってやっぱり、昔から「お上に」という発想があって、上からの、誰かが教えてくれるんじゃないかという発想がある。これだけはすごく心配で。

そうすると、さっきのお話のように、AIとかいろいろな機械に頼ると、人間はだんだん賢くなるんじゃなくて、愚かになっちゃう。だから私が最初に意思と言ったのは、そこが重要かなと改めて思います。

國領：ありがとうございます。もう少しだけ掘り下げたいんですが、尾藤さんが「支配か被支配かじゃない」という論点のときに、そうじゃない関係はどんな関係かということ。たしかに西洋的にはもう本当にいつも支配・被支配って出てきちゃうんだけど。

今までの議論に出てきたなかでは、たぶん正解は必ずしもあるわけではなくて、複数の選択の中で選び取るものですとか。ないしはミューチュアルリスペクトなのか。支配・被支配じゃなければ、いったいなんなんでしょう？

尾藤：すごく端的にいうと、「秩序」というものを作っていくときに、「統治」という考え方から「調和」という考え方に緩やかに移行するというのが獏とした考え方なのかと思っています。

そのなかで、個と個であればリスペクトできるものを、機械も含めた他者のリスペクトできる部分を見つけて、それを表現することから始めていくのが1つのあり方かなと思っています。

國領：関連コメントがもしあれば。

大竹：1つだけ。今の世界情勢を見ると、今までの常識が合わなくなってますよね。要するに民主主義が本当に機能するのか、クライシスじゃないかって議論もあるけれど。

どうやってそれ（社会）を作って我々はここに来たのかというと、もちろん、とくに民主主義なんかは統治しようというよりは、共感しようとか考えてる。それってやはり、人間同士がそういうことをどうしようと考えた上で、非常に幅広い意味での知識のシェアとして、社会での教育をやってきたんじゃないか。

そうすると、新しい時代に入ったとき、やはりちゃんとした秩序を作ろうと思うと、教育というのは、上から下へ教えるのではなくて、互いのインタラクションの中で作っていくという行為が非常に重要なのだと思いました。

自律した価値観を持つ大切さ

チェン：その統治のシステム自体をどう進化させるかというお話にもつながるのかなと思います。Wellbeingの議論や、Wellbeingとテクノロジーの議論でよく参照するのが、セイラーとサンスティーンの「Nudge」（ナッジ）という理論なんですね。

その本体はリバタリアン・パターナリズムという、それ自体が語義矛盾的な概念です。自由至上主義なんだけど、家父長のように「ああせい」「こうせい」言うっていう。

この矛盾をどう解決するかということで、とくにサンスティーンはアメリカのCIO的なポジションに就いて、例えば国民が保険制度を選ぶときにどういうデフォルトの選択肢の設計にすると、一番その人たちにとって自律的な選択ができるのか等、現場でその理論を実践したり検証したりしてるわけです。

この考え方は、非西洋的な日本的な文脈を探していくと、イコールではないと思うんですが、かなり呼応するところがあります。西洋でもそういう従来とは異なるロジックが追求されているし、それがもしかしたら日本的な「支配・被支配」で見ないスキームかもしれない。

先ほど尾藤先生がおっしゃったように、小平選手が氷と「対話する」という表現は示唆的だと思います。従来のパラダイムでいったら「氷を支配できた」とか、「悪条件をコントロールできた」という言い方になりがちですが、そうではなくて、良い対話ができたからというのはとても現代的な認識論だと思います。しかも、それが金メダルじゃなくて、銀メダルで満足してるということも、もっとポジティブに捉えられて良い。

その人が満足してるってことは、まさにこれは感情的なオートノミーの話です。別に周りが「金メダルじゃなくて残念ですね」って言おうが言うまいが関係なく、自分が主体的に価値を決める。この価値観にもとづくことがすごく大事だなと、尾藤先生のお話を聞いて思いました。

國領：ありがとうございました。あと1個だけ、私が話題を提供して、それでフロアから発言を募りたいと思います。安藤さんはシナリオづくり・ワークショップとおっしゃいましたし、それから尾藤さんのほうは、まだ方法論のところまでいっていないですが、患者との重要な意思決定をするときの方法の話をされました。

この領域が終わったときに、最終的にはその辺の方法論を世の中に残して、それが実践されている状態を作って、連続的に人が幸せになるようにしたいわけです。そんな安直なものじゃないのかもしれないんですけども。

機械がどんどん進化していく過程において、今議論したようなことが着実に技術にも社会にも反映されている状態を作り出していきたいです。

この辺の方法論をどれぐらい完成させてもらえるのかしらとか、どうすればいいですとか、それをやっぱりあとにきちんと残すためにはどういうことをしなきゃいけないとか、この領域の出口イメージをおっしゃっていただけますか。

研究で目指す目標

安藤：一応ガイドラインを作ると言いつつ、「ガイドラインとしてこういうふうにしたらいいよ」は見せられないと言ってしまっているんです。

ワークショップでシナリオを作るのは、回数は限られるかもしれないけれど、とにかくなんらか「こういうものが作りたい」という人に対して、「じゃあこういうことに気をつけてこういうふうにしたら、こういうものになるよ」というストーリーがいくつか揃ってくれば、なにかを設計する人のための道具には使えるかなと。

そういう思いはあるので、まずそれを作るための仕組みづくりが1つのアウトプットかなと考えていて。

もうあと1年半しかないんですけど、なんとか、それの公開方法も一般的に使える状態まで持っていきたいというふうに考えているというところはあります。

國領：尾藤さん。

尾藤：はい。大ボラを吹きますと、来年の11月の時点で具体的な、例えばマインドフルネスのようなセルフケアのメソッドを言語化し体系化する。および、専門家によるセルフケア支援のメソッドを言語化し体系化するところを到達点として目指しています。

哲学者、心理学者、等々が入ったタスクグループは作りましたので、まずそこのワーキングから開始していて、4月からは現在の前半でやったエビデンスを投入しながら、紡いでなんとか2019年の11月までに到達したいという目標にしています。

國領：大竹さん、なにか期待とか注文とかありますか？

大竹：いや、本当にこれって重要だと思ってて。私自身もきっと、子どもの頃から悩んでたことの1つで。不安とか「死んだらどうなるんだろう？」とか。それはやっぱり人生を生きてきてずっと考えてきたんだけど。

安藤さんともちょっと話して、ガイドラインを人に与えるだけだったら、決していいことじゃないですよね。でも、ガイドラインを作るヒントというか、考える要素をちゃんと出して、「みなさん考えてくださいね」というのをぜひ出していただいて。

本当にいつもRISTEXは典型的に、論文で終わるのではなくて、やっぱり社会実装。これを多く広く広めて、もうpublic goodsとして。みなさんどんどん見てください、考えてください。考えたことはまたなんかコミュニケーションしましょう。それしかないのかなと思って。でも、それをぜひお願いしたい。

國領：今のは、領域総括としては自分にとてつもない宿題を出す、自爆に近い質問だったと後悔しましたが、がんばります（笑）。

（一同笑）

AIの使い方をどのように考えるか

國領：それではお約束にもとづきまして、会場の皆様のご発言を募ります。30秒以内にしてくださいね。言いっぱなしの意見表明でもけっこうですし、質問でもけっこうです。それらをお伺いしたうえで、パネルの皆様に残り時間を等分して、結論というかお言葉をいただこうと思います。たぶんそれが約1分強ぐらいになると思うので、心の準備をしててください。

（手が）いっぱい挙がり始めた。じゃあ一番先の。どうぞ。

質問者1：大竹先生にちょっとお聞きしたいんですが。AIは本当に人を幸せにするのか？　私は幸せにすると思いますね。ただし、それには絶対不可欠な条件があって、「使い方さえ間違えなければ」、これがつきまとうわけです。

AIというのはやっぱりツールですから。不完全な人間が作ったAIも不完全なわけで、やっぱり最悪の場合を想定して使い方を考えるべきだろうと。つまり被害と後悔が最小限になるようにですよ。フェイルセーフを常に念頭に入れてです。

それをしないとやはり幸せを裏切るかもしれない。したがって、なんでもエラーはつきものなんですね。エラーを参考にしてAIの精度を上げて、AIと人間が共生する。coexistenceする。ともに働いていく。

そういうことが必要だと思うんですが、その点に関しまして、大竹先生のお考えをおうかがいできれば幸いです。また大竹先生に限らなくてもけっこうでございます。以上です。

國領：次の方どうぞ。

質問者2：どうもありがとうございました。ちょっと最初からいなかったのでわからないですけど、これを誰に向けてやってるのかちょっとわかりにくくて。

つまりこれはpublic goodsってさっき誰かもおっしゃってましたけど、「パブリックをどう捉えているのか？」、科学者側に言ってるのか、社会に言ってるのか、それとももうちょっと緩やかな個人に向けて言ってるのか。そういう何に向けて何をしようとしているのかがやや曖昧なので、誰でもいいんですが、お答えいただければ幸いです。

Wellbeingの外部化

質問者3：一般市民です。社会の中の科学、社会のための科学という題なんですが、AIと結びつくと非常に危惧を感じています。1つは科学の独立が脅かされるのではないか。もう1つは、政治的政策に利用されるのではないかと思うことです。

理由は、政策学者が「こういうシナリオでいきたい」と考えますと、AIはどんなデータからこういう結果を得たいとなると、機械学習までいかなくても、回帰的手法でこういう説明変数に対してこういう結果が出るようなモデルがいかようにもできてしまうんですね。

そうすると、予算が欲しい科学者は、都合のいいデータを集めてきて、政策学者が考えたシナリオ通りに出るような数学的モデルをあっという間に作れてしまう。なおかつ、みんながそのAIを、オーソリティを信じることによって、まるごと盲従する人が増えてくると、これは教育の失敗だと思います。以上です。

國領：よろしいですか？　じゃああちら。ちなみにアドバイザーの人たちもいいですかね。もしできたら。どうぞ。

質問者4：ありがとうございました。幸せという言葉の定義というか、言葉に少し関わる点で1つあるんですが。人間ってたぶんいろんなものを、意識的にも神を外部化してきたりとか、記憶を書物によって外部化してきたと思います。たぶん肉体的にも、掃除洗濯も今は全自動ですし、自動車もありますし。

いろいろなものを外部化してきて、最後に外部化されないものがおそらくWellbeingなのかなとは思ってるんですけど。Wellbeingは外部化されてきたアクティビティと表裏一体のところで成立してる部分もあるんじゃないかなと思いまして。

そういうものが外部化されないものとして、もう1回復活するのか、それとも例えば艱難辛苦みたいなものがあるからこそ幸せがあるみたいな考え方でいくと、今後のAI時代にその辺がどういうかたちになっていくかをおうかがいしたいと思います。すいません。

國領：これは重たい質問だ。じゃあ、すいません、どうぞ。あちら。

痛みを可視化することはできるか

質問者5：すいません、尾藤先生にお聞きしたいんですが。ちょっとお話しいただいたこととはズレてくるんですが、痛みを可視化することって必要かなとは思ってるんです。痛みを可視化する技術というのはできるのでしょうか？

尾藤：いい質問です。

質問者5：手術を受ける人の周りの人が同意してくれるかどうかとか、診察を受ける側の人が100パーセントお医者さんに症状を伝えられないときって、たくさんあると思うんですが、そういう解消に使えたらなと個人的に思っています。

國領：それでは、終了3分前ということは1分も差し上げられないで、ごめんなさい。フロアの質問へのお返事が入ってても入ってなくてもいいです。ということで、じゃあどうぞ。

安藤：すいません。パブリックという話で、今は「芝の家」というところで、本当に一般の人を集めてワークショップをやっているので、その中で問題点とそれに対する解決みたいなことはおそらく出てくると思います。

それを例えば新しいSNSを作りたいとかっていう技術……なんでしょうね、ものを作って売りたい人が見れるところがたぶんけっこうあるかなと思うので。今、最初に思ってるパブリックというのはだいたいそのようなことを考えていたりします。

KnowとFeelの違いについて考え続ける

チェン：我々のプロジェクトに関していうと、ターゲットは、今安藤さんがおっしゃったことを補足すると、情報技術の作り手と使い手両方のコンセンサスを作ることなので、そのボキャブラリーやプロトコールをどう作るかということだと思います。

それは、その後の教育の問題でどういうことが必要なのかということでもありますね。AIリテラシーというか、それはやっぱり作ることによって一番わかると思うので、そこも実践的なプログラミング教育みたいなものの延長線上にあるのかなと思います。

Wellbeingの外部化が可能なのかという非常に深い問いをいただいたんですが、これは例えば一遍の歌から自分の心が満足する方法を学んだりすることも我々はやっているわけで、結論からいうと、自然言語もテクノロジーと捉えた場合にはもうすでに外部化してるんじゃないのかなと考えています。

最後の痛みの可視化というのは、尾藤先生への質問を勝手に答えさせていただくというか乗っからせていただくと、非常におもしろいアイデアで、Gross National Pain、「国民総苦痛量」というものを記録したほうがいいのではないかというのが私のアイデアです。

尾藤：ありがとうございます。まさにWellbeingの外在化とペインの外在化というのはもう表裏一体になっているわけです。

例えばブータンがすごく幸せな国と言ってるときに、「何でどんな尺度でやってるからブータンは幸せなの？」ということで、「尺度が違うんじゃないの？」みたいな話になってくると、よくわからなくなってくるわけですね。

人間の中にある主体のほんの少しだけを約束として外に出して、ほんの少しだけ共有化できる情報と考えると、ペインとか。例えば緩和ケアの世界では、ガンの治療の人のペインなんかは約束を作ってちょっとだけ可視化してるわけです。ちょっとしか可視化できないんだと思いながら、それを他者同士で共有することで自分もFeelできるなにかのツテにすることだと思います。

そこで私がすごく大事だと思っているのは、KnowとFeelの違いについて考え続けることです。そしてこのKnowではなくFeelであるということに、なにかしら人間が持っている特性だとかコミュニケーションのあり方があると思っています。

人間の幸せは人間が考えるべき

大竹：ひと言だけ。先ほどご質問がありましたが、おっしゃるとおりだと思います。完璧はなくて、やっぱりエラーを最小化して。だけど、やっぱり人間の幸せは人間が考える。それを忘れちゃいけないだろうと思います。

それからもう1つ、政策に利用される話。これは今日のお話ではないですけど、やっぱりEvidence-based policyかPolicy-based evidenceかといういろんな議論があって、そこもやはりちゃんと人々が考えなきゃいけないこと。

最後にいうと、科学者のためか、社会のためか？　科学者も社会人の一員なんですよね。今日も難しい言葉を使ったというよりは、非常にみなさんに共感されるような議論をしているわけで。こういう専門家の方と一般の方も入られた議論は、これからすごく重要になると思って。これはまさに共感とか一緒に協働する。そういう話だと思います。

國領：ありがとうございます。時間が来てしまったので、これが終わりたいと思います。お答えしきれなかった質問についてはこのあとのパネルなんかで、例えば「将来予測はどうすればいいのか？」とかいう議論も出てまいりますので、その辺で拾っていただくことを期待します。どうもみなさん本当に活発なご議論ありがとうございました。

（会場拍手）

司会者：モデレーターの國領・領域総括、そしてパネリストのみなさま、誠にありがとうございました。では、ご登壇をいただきましたみなさまに、今一度大きな拍手をお送りくださいませ。ありがとうございました。

（会場拍手）