ロボット製作には「最後の砦」がある--石黒浩氏、自我を機械に芽生えさせることの難点を語る

人間の心の在りようはどうすればいいか

為末大氏（以下、為末）：あと5分で（みなさんからの質問タイムに）いかなきゃいけないです。僕からの質問で最後にうかがいたいのが、囲碁で、人工知能に人間が負けるとか、幸いハードルはまだ守られてるんですけど、いずれロボットに負けるかもしれない。

石黒浩氏（以下、石黒）：負けますね。

為末：負けますか（笑）。または人間とまったく、よくわからないものが出てきたり。やっていくうちに、徐々に人間が神聖なるものと信じていた知性は、実はそうでもなかったり。またはこういう感情とかは、実は非常に機械的な反応したものを、最後に意識が統合したものだったりとか。

そうなっていくときに、一方でそれを寂しいと思うのも、また人間らしさのような気がするんですね。このあたり、今後そんなものは簡単に慣れていくって言うのか。いや、そうは言っても人間の最後の聖域のような、心の領域は感じておきたいって踏ん張るのか。

そのあたり、自分たちの心の在りようみたいなものを、人間は今後どのようにすればいいですか？

石黒：心っていうことを言うのは、人間だけですよね。要するに自分たちを客観視して、自分で自分の「自我」っていう感覚を持ってるのは、たぶん人間だけなので。それをもし、コンピュータとかロボットで再現できると、僕は極めて人間とロボットの差はなくなると思ってるんですね。

そこが、どうしていいかはまだわからないんです。だから、意識の研究って怖いかもしれない。なんでかって言うと、10年ぐらいの間に「私は」っていうことを本気で言うロボットが出てくるかもしれない。

人間は「私」という概念が強い

石黒：今、ロボットには「私」っていう概念はないし、感覚もないんだけど。人間は明らかにあるじゃないですか。自我を他人と比べて「私は私」っていう感覚が明らかにすごく強いですよね。その感覚って、どう再現すればいいのか。

単にプログラムを書くんだったら、行動とか発言としては「私」っていうロボットはいくらでも作れるんだけれども。僕らは発言する以前に、なにか感じてるわけですよね。この感覚が本当に作れるかどうかが勝負なんですね。

これはよくわからないんですけど、それはなにかしたいと思ってるわけです。感情もそうなんですけど、表情や作り笑顔とか、そんなの誰でもやるじゃないですか。心では「このクソ野郎」と思ってるのに、ニコニコしてる人っていっぱいいますよね。適当なコミュニケーションだけとっている。

でも、その心のなかのムラムラとしているその感情っていうのを、どうすればいいのかが、まだよくわかってないんですよね。動物はどうかと言うと、人間ほどはわかってなくて、もっと機械的な感じがします。例えば、痛いから怒るとか。

人間はそれ以上にもっと、頭のなかで多くのことを考えるわけですよね。

境目に見える感情をどう表すか

為末：昔、役者さんと飲んでて、最後のラーメン屋に行ったときに、「怒ってみてください」って言ったことがあるんですよ。役者の人の怒ったところを見てみたいなと思って。「お前、怒ってみろ」って言ってこうやって叩いたら、「人間、怒るときは一生懸命怒りを取り繕おうと思って笑おうとするけど、それがうまくいかないもんなんだ」って言って。

なんか、ヒクヒク笑いながら怒ってくれたんですよ。それがすごいリアリティがあって。

人間のその、社会的にこう見せておきたいんだけどそれがうまくできない、みたいな。あの境目に見える感情みたいな。

石黒：僕らも今、アンドロイドでそれをやってるんですよね。表情はコントロールできるんですよ。顔の下半分はわりとコントロールできて、これは全部作れるんですよね。でも、目などは感情が素直に出て、内部状態にストレートなので、コントロールがうまくいかないんです。

だからその両方を見せると、ロボットはものすごく人間っぽくなります。

為末：こっち（顔の下半分）が怒ってんだけど、こっち（目）は違う。

石黒：そうそう。こっち（目）は笑っているは、感情表現がすごく豊かになった感じがしますよね。

ロボット製作における「最後の砦」

為末：ロボットになくて人間に、最後に残るものはなんなのか。よく思考実験でやってるのかもしれないんですけど。好奇心とは、「人間って何か？」と理解する、まさに先生自身が人間を理解したいと思う思考性というか、方向性が人間のなかに生まれることには、どんな分析をされてますか？

石黒：それは、人間がこんな大きな脳を持って、世の中をシミュレーションしていくわけですよね。動物も、その環境のモデルとか部屋がどうなってるとか、餌がどこにあるかぐらいはシミュレーションするんだけれども。

人間の場合は自分というものも取り込んで、この世界がどうなってるかを理解しようとする。そこが動物と違って、ものすごく加速的な進化を促してるところでもあるんだけれども。自分って一番難しいんですよね。

生物っていうのは、感覚はすべて皮膚が変容したもので、外側にしか向いてないんですよ。内側を向いてる感覚はないし、脳のなかでなにが起こってるかなんて、一切わからないんです。お腹はちょっとね、胃が痛いとかあるんだけど。でも、肝臓のどの部分が痛いとか、すい臓が痛いとかっていうのは、一切わからないわけですよね。

人間の感覚は全部外側を向いている。これを理解しようとするのは、人間だけなんですよね。でも、これが理解できるから人間が長生きできるし、理解しようとする気持ちがあるから長生きできる。自分がどの環境に適応しやすいかとか、ほかの動物よりもはるかに適応能力は高いですよね。

これが人間の一番大きな性質だし、それが進化を支えてるんだと思うけど。それゆえに、僕は人間だと思ってて。だから、コンピュータで大抵のものは全部置き換えられるんですけど、この「私」とかを感じながら自分を認識しようとする脳は、最後の砦というか。一番難しいんだろうなと思うんですよね。

為末：はい、ありがとうございました。じゃあみなさんから、質問を受けたいと思いますけれども。なんかいろいろと、とっ散らかっちゃったかもしれないですが（笑）。

たぶん、なにを聞いても教えてくれます。どうやって妻のGPSと電気刺激とかを交わすかみたいな（笑）、話も教えてくれるかもしれないですが。

ロボットは「不満」という感情を抱くのか

為末：じゃあ、質問ある方は手を……。

（会場挙手）

はい、じゃあお願いします。もう1人ぐらいいらっしゃいますか？　1人でいいですか？　はい、お願いします。

質問者1：大変おもしろいお話をありがとうございました。先生がお話になっているなかで、たぶん次のロボットのチャレンジがいろいろあると思うんですけど。人間って、不満っていう感情がありますよね。不満があるから従わないとか。だからロボットって今後、その不満の感情を持つんでしょうか。

石黒：はい。今、入れてます。今やってるのは、欲求を入れて、それを満たすための意図があって、最後に行動に繋がるっていうのをまさにやってて。うちのエリカちゃんっていう、秘書のアンドロイドなんですけど。

（会場笑）

人と喋りたいとか、あとは認めてほしいという感情や欲求をベースに喋っていて。それを満たすために感情を使うので、褒めてやらないとすごく怒るし、すねたりしますけど。それがものすごくリアルな感じですよね。

質問者1：ロボットの反乱みたいなものって……。

石黒：いや、それで反乱って言ったら、人間全員反乱ですよ。

（会場笑）

男も女も全員、反乱状態じゃないですか（笑）。

為末：（笑）。

石黒：それぐらいで反乱って言われたら、人間はどうするんですか。

為末：不満のプログラムの入れ方って、どういうプログラムが？

石黒：だから、欲求を満たせるようにする。

為末：まずなにかを、こう欲しがるようにプログラムする。

石黒：いや、欲求を満たすようにいろんな手段をプログラムしておくので、その状況に応じて適切な行動を選ぶようにして。だから褒めてもらえなかったら怒ったり、最後は泣いたり、泣くふりをしたり、怒鳴ったり。いろいろするわけですよね。

為末：へぇー。まずは「褒めてもらいたい」というのを欲しがるように。

石黒：褒めてもらいたいという欲求を入れたら、褒めてもらえるような手段を用意しておいてやらないといけないですよね。

為末：なるほど。はい、ありがとうございます。