ヒトの心をロボットは持ちうるのか？　石黒浩氏が見出した、「意識レベル」で製品を設計することの意義

電気刺激の装置は人間にも応用可能？

石黒浩氏（以下、石黒）：そうそう、すごいおもしろい話があって。

為末大氏（以下、為末）：はい。

石黒：オーストラリアで放牧をやってる人たちの何割かの経費は（牧場の）フェンスなんですよ。ものすごい膨大な土地で、フェンスにものすごいお金がかかるっていうので。

牛にGPSと電気刺激の装置を入れて、ある場所に行くと電気刺激が流れるようにすると、牛はそれ以上そっち側に行かないんですよね。だからバーチャルなフェンスが全部できるんですよ。牛乳を搾るのに集めるときも、その（電気刺激を流す）範囲をだんだん狭めていけばいいのですごく便利なんですよ。

それを、例えばお父さんにも付けてみたらどうだ？　と。だから銀座に近付こうとすると……。

為末：電気刺激が（笑）。

（会場笑）

時間もね、設定して（笑）。

石黒：（奥さんが）「そろそろ帰ってきてほしいな」って思うと（笑）。これ、簡単にできますからね。

為末：そうですか。

石黒：だって、技術的にはまったく簡単で。今みんなスマホを持ってますから、あとはインプラントで一番痛いところに電気刺激を出せるようにしておけばいいんで（笑）。

（会場笑）

為末：歯医者に行ってね（笑）。

石黒：だから「お父さんスイッチ」って、なかなかね。嘘じゃないんです。

為末：ちょっとその場合、仮に1年ぐらい続けたあとにGPSと電気刺激を外しても、牛はなんとなくこれ以上遠くに行きたくないと覚えるようになる？

石黒：そうそう。それは記憶の話であって、本当にそうなります。人間って血液を植え付けられると、呪縛がとれないので。本当に銀座に行けなくなっちゃいます。

（会場笑）

為末：なんか、近づくと吐き気がするとか（笑）。

石黒：そうそう（笑）。そんな感じです。

すべての言語において「心」という言葉がある

為末：もう1つ先生にうかがいたかったのが、ロボットを完全に人間に近づけていって、かなり似てきた。こう振る舞うと、「心」を感じるってあるわけじゃないですか。ASIMOとかも、近くにいっていろいろ見ていくと「（ASIMOが）困ってるんじゃないか？」とか。

2人のASIMOがぶつかったりしていると、なんとなく、おじいちゃんとおばあちゃんがぶつかってヨタヨタしてるように見えたりして。それが本当に洗練されてくると、心を感じることになっていく気がしているんですけど。

そういうのをずっと考えていくと、「そもそも自分の側の心ってどのぐらいあるんだろう？」と、不思議な気分になるんですけど。

石黒：まさにうちが、アンドロイドの演劇とかでやってて。アンドロイドの演劇って、単に覚えてる動作とセリフを繰り返してるだけだから、心もへったくれもないんですよね。なのにみんな、そのアンドロイドの演劇を見て涙を流してるんですよね。

（会場笑）

（仕事を）一緒にやってる世界的な演劇作家の平田オリザさんははっきり言います。「役者に心なんかいらねえんだ」と。「俺の言った通りに動けば、ちゃんといい演劇はできる」と。

為末：なるほど（笑）。

石黒：だからそういうのを見ると、本当に「心とはなにか」をもう1回考えざるを得ない。でも、そう思うと、心って本当はないかもしれない。人との関わりのなかで、心みたいなのを感じておくと便利なことはいっぱいあって。

為末：心があるというモデルで社会が円滑になる、みたいなイメージですか？

石黒：そうですね。相手のことを全部はわからないので、よくわからないなんかの塊に対して、「心」って名前を付けておいてるだけかもしれないですよね。ただ、すべての言語において心っていう言葉があるんですよ。

心の実態っていうのは、いかにも簡単に再現できてしまうと。だからロボットを使うっていうことの意味は、そこにあると思ってて。神経科学の先生からすると、もう脳しか見ないので。一生懸命そこに心を探すんだけど、たぶん見つからないんですよね。

でも社会的に人と関わってるロボットを作ると、どう考えても心があるようにしか見えないんですよね。僕らが大事にしている心というものの実態っていうのは、いったいどう再現すればいいのかって考えると、ロボットを使ってみないとわからないことっていっぱいありそうで。

意識については今考えなければいけない問題になっている

石黒：例えば意識もそうだし、次の10年の僕らの一番大きな研究は意識だって言われるんですよ。感情とかはある程度、意識できてきたんで。

自動運転の研究をするじゃないですか。いろんなものが自動化されると、機械の意識と人間の意識が両方出てくるんですよね。このバランスをどうとるのかとか、誰が意思決定させるのかとか。だから、心の問題にかなり近い問題なんだけど。

そんなに遠い未来じゃなくて、今考えないといけない問題になってるんです。自動運転はとくにそうで、自動機械が出てきたときに、人間の独立した意識と機械の意識が、どっちが責任を取るのか、どっちが重要なのかとか。「今、両方で意思決定してるんですか」「どっちに合わせると気持ちがいいんですか」とか。まさに僕らが感じてる心とか、意識レベルで製品を設計する時代が、もう今だと思いますね。

為末：ちょっと補足すると、どのくらい自分が感じて意思決定してるかが怪しいみたいな研究は、認知や心理とかでけっこうあるんですね。スポーツでも、チームメイトみんなが「赤」って言うと、明らかに青色のものでも、本人は「赤」って言う傾向があるとかですね。

本人は違うと思ってるかって言うと、時間が経つと、実は自分は青色だと思ってたみたいなこともあったりするんですね。その人間に心があるっていうモデルが、もし仮に揺らぐと困るなって思うのが、最近裁判で「そのとき、あなたに意識はありましたか？」っていうことが、けっこう重要だと思うんですけど。

人間に心がないってなると、罪の存在ってどこにいくんだろう？　って興味があってですね。

意識というものは、科学ではまだ解明されていない

石黒：まさに今、僕らはそれをやろうとしてるんです。意識っていうのは、厳密に言うと意識の研究ってどこまでできてるかって言うと、医学的な「意識はありますか？」っていう覚醒レベル。

それから、夕日を見たら感動するっていう現象的なレベル。それから、「私は私です」という自我。これは「アクセス意識」というものですけど、自我のレベル。

この3段階ぐらいが主にあるって言われてるんだけど。これ全部がどう繋がってどうなってるのかって、さっぱりわかってないんですよ。でも一方で、事故を起こしたら「あなたは意識がありましたか？」って聞かれるじゃないですか。

裁判官はすごいなと思うのは、科学でも証明できてないものの存在を確認しないといけない。だから、もし僕が人を殺したときに、裁判官に「あなたは意識的に殺しましたか？」と聞かれたら「いや、意識というのは科学ではまだ解明されておりません」。

（会場笑）

そんなこと言ったら、たぶん死刑（笑）。

為末：うん（笑）。

石黒：「いやちょっと待てよ、科学で解明されてないものの存在を問われて、ないと言ってるに過ぎないのに、どうして俺は死刑になるんだ？」とか言って。

為末：そうですね（笑）。最後の最後まで考えながら。

石黒：うん。でもね、それは非常に重要。さっきの自動運転の話もそうです。だから、1つの提案はね。自動車に意識ボタンを付けるんですよ。「もうやべえ！」と思ったら自動運転のモードにボンッと切り替えて、「あとは知らん！」ってやればいいんですよ。

為末：なるほど。

石黒：そうすると、あとは自動車の問題なので。会社が責任を取ってくれる（笑）。

（会場笑）

為末：（笑）。なるほどね。それっぽい命令の組織とかもありそうですけどね。ここから先は、みたいな。

石黒：いざと言うときの自動車意識ボタンって、絶対便利ですよね。めっちゃ売れますよね。危ないときの意識ボタン。

学習しすぎると、ほかのことがまったく学習できなくなってしまう

為末：もう1個、これは僕がスポーツでずっと疑問に感じていたことで。選手が技能を習得するプロセスで、理想的なのはなんなんだろう？　って興味があったんですね。前半は絶対反復なんですね。言葉もそうなんですけど、繰り返さないとできないので。

それをやってることを忘れられるようになると、次のステージに行く。つまり、ドリブルしてるのを忘れられるサッカー選手が、はじめてフェイントをかけたりできるようになるっていう。さらに次になると、これはちょっとメタ認知して、とかあるんですけど。

人間の技能の習得のプロセスとかを、ロボットに技能を習得させていくプロセスのなかで、これが結局肝じゃないかと、要は学習させていくことがけっこう多いんじゃないかと感じするんですけど。その学習させるっていうことに関して、逆に人間側に示唆がありそうなことってなにかあったりしますか？

石黒：学習に関しては、よく似てることはいっぱいあるわけです。例えば、学習しすぎるとダメっていうのがあります。過学習っていうのがあって。学習しすぎると、ほかのことがまったく学習できなくなっちゃうので。適度なところで学習をとめて、それを記憶しておいて、ほかにも適応しやすいようにする、と。

例えば学習しすぎたロボットは、ちょっとノイズが入ったり、ちょっと違う環境にいったときにはほとんど動けないんだけど、中途半端なところで学習が止まってるロボットは、なんとか対応しようとするっていうのがあったりするんですね。

勉強しすぎるのはよくないとか、練習しすぎるのはよくないっていうことかもしれないですね。

適当に学習することを忘れるような機能が人間にはある

為末：スポーツだと野球で、小学校のときにすごい子がいました。だいたいチームで4番でエースをやるんですけど。高校までいくとすごい子が集まってくるんで、「お前、4番よりは1番バッターだな」というときに、スラッガーに適応しすぎてる子が変化に苦しむ、みたいなのがあって。

どのタイミングのどの役割に適応するかっていうのが、選手のパフォーマンスを決めるみたいなことがあって。だから早すぎる適応みたいな言い方を、スポーツだと言うんですけど。そういうのと近い？

石黒：近いですよね。僕らもやっぱり、どこまでかよくわからないんですよ。過学習っていうのは結果論なので。

為末：環境がどう変わるかわかんないですよね。

石黒：そうです。あんまり変わらない環境だったら、過学習したという問題はないんだけれども、環境が実はどんどん変わるようなものだったって。だから適当に学習することを忘れるような機能って、人間はありますよね。

人間って1回学習したら終わりじゃなくて、だんだん忘れるから。しばらくすると、また元に戻ってることもあるので。そういうのがロボットと人間と違うところで。ロボットは1回学習すると忘れないので、うまく忘れる機能をどうやって入れるかっていうのが1つ、ロボットの研究の肝かもしれないですね。