人と機械が対等に働く未来は来るのか
技術だけでは解決できない、社会とロボットの関係性

Man, machine and control | Doki Shinji | TEDxNagoyaU

ロボットや人工知能の開発・研究が進む昨今。機械システムのレベルが上がるにつれて「人が機械を操る」から「機械と人間が協調して合目的的に動く」ということが求められていきます。また、その中で予想もしなかった問題や、技術だけでは解決できない問題とも向き合う必要が出てきます。名古屋大学・道木慎二氏は「人と機械は互いに信じ合えるのか」という問いを人々に投げかけました。(TEDxNagoyaU2014 より)

学生に対して「夢」ではなく「野望」を聞く理由

道木慎二氏:みなさんこんにちは。道木です。僕はここの人間なんですね。ですからちょうど去年、学生さんが中心になって名古屋大学でTEDxを始めると聞いた時には、なかなかおもしろいことを始めるアクティブな学生さんがいるんだなと思って。

同時に、来年ぐらいはぜひ1度聞きに行ってみようかなと思っていました。

そういった意味では今日、この場に僕がスピーカーとして存在するということは、とても夢のようなことで。なかなか今でも信じることができない、思わずほっぺたをこうやって捻りたくなっちゃうような状態なんですけれど(笑)。

何はともあれ、こういったイベントを企画してくれた学生さん、そしてトークする場を与えてくれた学生さんにまずは感謝をしたいと思います。ありがとうございます。

さて、では今日の僕の話を始めていきたいと思います。みなさん「野望」ってあります? ここは本来だったら「夢」って聞くところだと思うんですけど、僕は学生に聞くときはあえて「野望」って聞くんですよね。

「夢」っていうと、なんとなく「頑張って実現しなきゃいけない」みたいなイメージがついてまわって。シャイな日本人には口に出すのがはばかられるような感じがあるんですね。

その点「野望」っていうと、まあちょっと無理めの夢だから自由好き勝手に放言することはできるよね、ということがあるので、僕は学生に聞くときは「お前の野望なんだよ?」といつも聞くようにしています。

僕の野望は何か。「ありとあらゆるものを思いまのままに操りたい」。ちょっとこれではきれいごとっぽ過ぎるのでもうちょっとガンっていうと「どんなものでも持ってこいや。俺が思いのまま動かしてやるぜ」ということなんですね。野望っぽくていいでしょ?(笑)。

でもですね、これだけをガハハなんて笑いながら言ってると、怪しげなSF映画の悪の皇帝みたいな感じがしちゃうので、もう少し僕がこういう風に思うようになった理由についてお話をしたいを思います。

何らかの機械や物を操る「制御工学」

僕が工学部の3年生になった頃、工場実習、今でいうところのインターンシップですね、というのに「お前大学院に進学するならちょっと工場実習行ってこいや」と言われて行くことになりました。それはちょうどとある電機メーカーで、今から思うとCDプレイヤーの開発をしている部署でした。

当時、新しいモーターを導入した新型の機械を作ったからお前その実験手伝えや、と言われて実験をしたんですね。ところが、普通に音楽を聴いてるぶんにはいいんですけど、ピッと押して曲飛ばしをするとだめなんですね。音が飛んじゃう。CDプレイヤーなのに音飛びをするっていう不思議な体験をしたんですけれど。

そんなわけで「おかしいです」と指導してくれた人に実験データを持っていくと、その人は忙しい人でしたから、机でいきなり紙にゴリゴリと計算をしだすわけですよ。

それで「道木くん、ちょっとコンデンサ2倍にしてみて」と軽く言うわけですよ。こんなのでいいのかな、と思いながらコンデンサを実験室に持って2倍にすると、あらなんてことでしょう、ピタッと動くわけですよ。

これすげえな、と思ったんですけど、当時はなんでこんなことが可能なのかわからず。大学に戻ってきてちょうど大学の講義を受けた時に、それが制御工学によるものだということを知った瞬間、(胸の前で手を組んで)「制御ってすばらしい」という感じで、僕はインプリンティングされちゃったわけですよ。

そんなわけで「制御」という言葉でいろんなことに僕はずっと携わってきたんですけど、制御と言っても馴染みがない人もいるので簡単にお話したいと思います。制御というのは、言ってしまえば何らかの機械や物を操りたいということなんですよね。だからどんなものでも思いのままに操りたい、ということになるんですが。

操りたい機械か何かがあった時には、必ず操りたい目標も同時にあるはずです。目標がなくて操りたいなんてことはないわけですよね。その時にどうやって操るかというと、まず操りたい対象の状態をよくよく観察する。

そして、操りたい目標と照らし合わせることによって、どうやって相手に働きかけていけばいいのかを決めること。言ってしまえばこれが制御です。

だから僕らは人間関係でも、実は相手との関係を無意識のうちに制御みたいなことをしてるわけですね。例えば昔でいくと、これを歯車やゼンマイやギアでやっているのが俗に言う「からくり」と呼ばれるやつですね。

今の時代は、ここで言う制御器というやつですね。人間が機械を操る仕組みを数学の力、アルゴリズム、そしてコンピュータを使いながら学問としてやっていくのが制御工学という学問にあたります。

そんなわけで、大学3年生の時にピシッとインプリンティングされてしまった僕は、以来ずっと制御に関わっていきたいなという思いのもとでずっと研究してきました。

幸いなことに4年生になって研究室も制御の研究室に入ることができて、1番最初にやった研究がモーターの制御でした。モーターというと男の子なんかは子どもの時にミニ四駆とかで遊んだことがあって「何をいまさらモーターなんだよ」と逆に言われちゃうところがあるんですけれど。

日本で消費される電力の50%はモーターで消費されると言われています。ですから、そのモーターの消費電力のエネルギーを1%でも改善すれば、原子力発電所何個ぶんにもなるんですよね。

そんなこともあってこの10年20年、省エネルギー、地球環境問題ということで、モーターの効率改善というのはすごく精力的な研究が行われて。

機械は人の指示に従っていれば良いのか

僕はずっと研究してるんですが、その都度どんどん新しいモーターが登場してきます。僕はモーターそのものを作るのがメインではないんですが、おかげで制御対象、制御しなければいけない対象もどんどん変わっていって。

しかもそれに加えて、幸いなことにコンピュータもこの10年20年天井知らずでどんどん性能が良くなり値段も下がっていくということもあったものですから、こう言っちゃなんですが、次から次へと新しい研究テーマが降ってきて、それを新しいコンピュータを使いながら解決していくということをずっとやってきたわけです。

そのおかげでモーターはどんどん性能も効率も良くなって出力も大きくなって、今までだったらガソリンエンジンとか油圧で動かさなきゃいけなかったものが、モーターで動かすことができるようになって。

アプリケーションがどんどん拡大していくわけです。例えば家庭用のルームエアコンも、モーターがずいぶん変わってしまって10年前のエアコンだったら今もう買い替えたほうがいいよ、という時代ですよね。

当然、電気自動車やロボットなんかは言わずもがなです。最近うちも自動車を買い替えたんですが、ハイブリッドにしたら車は大きくなって燃費は良くなってガソリン代かからなくなった。なんて幸せな状態になります。

さらに最近では、飛行機についても電動化というのがどんどんこれから進んでいくだろうという風に考えています。

こんな感じで「ずっと野望に向かって僕は突き進んでいる」と思ってたんですけど、実はその中で1つだけ心の中で引っかかっているものがあります。それがこれなんですよね。「機械は人の指示に従っていれば良いのか」ということです。

もちろん制御をするという以上は、人間の指示通りに動いてくれないと困るわけですよね。それはごもっともなんです。ただし「人間の指示が誤っていた場合は、盲目的に従っているのは良いことなんだろうか? 悪いことなんだろうか?」ということなんですね。

小説『われはロボット』に登場するロボット工学3原則

これは、なんでこういうことを思うようになったかと言うと、知っている人は知っている有名なSF小説でアイザック・アシモフの『われはロボット』という小説があります。およそロボットが好きな人は、これ読んでなきゃもぐりだねっていうぐらいの有名なSFです。

これは将来社会にロボットが普通に工業製品として溢れているような世の中を想定したSFなんですが、その中で登場するロボットは必ずロボット工学3原則という3原則を必ず守って生産されることになっています。

その3つの原則を簡単に紹介すると、1つめは、ロボットは人間に危害を加えてはいけない。また、何かものごとを感化することによって人に危害が及ぶような状態を放置してはいけない。これが第1条です。

第2条は、その1条に反しない限りにおいては、人間の言うことを必ず聞かなければいけない。そして第3条は、その1条2条に反しない限り、ロボットは自らの身を守らなければいけない。なかなかおもしろい3条だと思うんですよね。

これすばらしいなと思うんですけど、実際に社会に適用してみるといろんな状況があって。この3条の隙間を縫っていろんなトラブルが起きて。そのトラブルを解決するために、ロボット会社のエンジニアが活躍をするというのがこの『われはロボット』というお話です。ぜひ機会があれば読んでみてください。おもしろいですよ。

まさに今の1条2条のところに話が表れているわけですよね。2条は「人間の言うことを聞かなければいけない」なんだけど、その前に第1条「人に危害を及ぼしてはいけない」というのがあるわけですよ。そうすると、まさにこの中で「人に盲目的に従っちゃいけないでしょ」ということを言っているわけです。

人型のヒューマノイドの人工知能を持ったロボットなんていうのはまだ先の話だっていう話になるんですけれど、実は自動運転の自動車、最近もういろんなデモをやるようになりましたね。あれってこれに近いですよね。

例えば目の前で追突しなきゃいけない、絶対避けられない。ハンドルを切って隣の車にぶつかるのがいいのか、そうじゃないほうがいいのか。これ究極の選択ですよね。そんなようなことがあります。

技術だけでは解決しない問題がある

結局だんだん機械システムのレベルが上がってくると、こういう予想もしなかったことが起きてきます。従来の制御というのは人間が機械の上位に存在して一方的に働きかけて、機械はその言う通りに聞けばよかった。何が起きても責任は全て人間が取るよ、という前提だったわけですね。

ところが、そういう「人が機械を操る」から「機械と人間が協調して合目的的に動く」ということが求められるシステムというのをこれから僕らは扱っていかなければいけない。そういうものが世の中に登場する時代が近づいてきているということですよね。

そうすると、目標を達成するという意味において、機械と人間は対等な関係になります。人間は機械に働きかけるとともに、機械は人間に「おいおい間違ってるだろ」なんていう提案をしなければいけない。そんな時代がやってきます。

そんな時はどうしないといけないか。簡単に言えば、僕らが機械を正しく操作するためには機械の仕組みをちゃんと知らなきゃいけない。機械のことをちゃんとわかって使いこなさなきゃいけない。

同じように、機械側も人間を察しなきゃいけない。人間に意見を言わなきゃいけない。ましてや人間を理解しなきゃいけない、ということになります。

これは正直言って結構レベルが高いですね。人工知能をつくるのを同じ話になってきますから。だから、そういった意味でこれはそうそう簡単に実現できないというか、逆の言い方をすると僕らにとっては研究する題材がまだ山のようにあるということになるんですけれど。

でも、限定されたものに関して言えば、こういうものはだんだん我々の身近に機械として増えてくるということは明らかだったりします。

ただし、僕らがいくら頑張って技術的に解決しても、技術だけでは解決しない問題があると思います。

例えば、事故時の責任問題ですね。「自動操縦している自動車がぶつかったら、その責任は誰が取るの?」という話ですよね。これも結構問題です。むしろ人に従ってくれていたほうが法律的には何の問題もない。その人が責任を取ればいい。

実際、今でも自動車の衝突回避ブレーキのCMやりますけど、1番最後に1秒か2秒、絶対読むことのできないザーッといっぱい字が並んだページが登場しますよね。

あれは言ってしまうと、「機械は人間様にアドバイスするだけで、最後の判断はあなたの責任ですよ」と一生懸命言ってるのと同じですよね。

もう1つは心の問題ですね。人間の心の問題です。機械を本当に信じることができるのか、ということです。僕はこの「機械を信じることができるのか」ということを1番最初に体験したのが大学生の頃で、自動車に滑り止め防止装置、ABSというのが始めて搭載されたんですね。

当時、そんな時代でしたから「ABSってなんぼのもんじゃい。俺がブレーキ踏んだほうが早く止まれるぜ」なんていう若気の至りもあって。スキーに行った時に、スキー終わってご飯食べてお風呂入って、夜中にごそごそとガラガラのスキー場の駐車場に行くんです。

車が停まっていない広い空間があるので、そこで思い切りブレーキを踏んで、ABSが付いた車と付いていない車どっちがいいかなんて実験を散々やったりしました。なかなか若気の至りですね。

その結果、(頭を下げながら)すいませんってこう謝ることになって、僕は安心してそれ以来何も考えずブレーキをガツっと踏むようになりました。

人と機械は互いに信じ合えるのか

もう1つ深刻な場合は、僕いま40後半、もうすぐ50です。25年後の自分を考えると、介護ロボットというのはひとごとじゃないんですよね。

25年ぐらい経ったらもうできてるかもしれない。でもその時に、じゃあ介護ロボットに自分の老後をまかせていいのか? もともとこういう分野でこういうことを好きでやってる人間なんだけど「でも、どうかなぁ……」と考えることは正直ちょっとあります。

結局のところ、技術的な問題もあるんですけど、人と機械が互いに信じ合えるのかということは実はこれすごく大事な問題です。決して技術的な問題だけではないんですよね。技術がいくら解決しても、人間がそれを信じて受け入れられないといけない。

社会的なコンセンサスみたいなものが存在しないと、残念だけれども、それは受け入れられないし普及もしない。それはむしろ社会にとって魔物のような技術となってしまう、ということになります。

ここまで人と機械、そして制御という話をずっとしてきました。もちろん技術的なことはあるんですけど、最後はやっぱり、特にいま問題としているような人間と機械が対等の関係で渡り合っていくような技術レベルのものがだんだんと世の中に入ってくるようになると、単純に技術が優れているからOKですねというわけには残念ながらいかない。

僕らがいくら頑張ってもそれだけではきっと解決しないんだろうなと思うところが最近たくさん出てきます。そういった意味では、社会的合意というものがだんだんとできていくということがすごく大事なんだなと思っています。

最後に、今日はIlluminate Your Heartということで、お話をさせていただいたわけなんですけど、正直言ってみなさんのハートをIlluminateするどころか、むしろ、もやもやっとしたものをたくさん残すようなスピーチをしちゃったんじゃないかなと正直僕思っています。

でもこれは半分確信犯ですね。さっきも言ったように、新しい技術レベルの機械が世の中に入ってくると、むしろみなさんも考えてほしいんですよね。

ただ単に「便利なものが出てきた、どうしよう、何か責任があったら技術のせいだ」と押し付けるんじゃなくて、そういう使う側の人たちが技術とどういう風に向き合うのかということも自分の頭で理解して知って考えてほしいと思います。

そういった意味で、大学の講義じゃないんですが、あえて最後に宿題を出して終わりたいと思います。それはこれです。

みなさんは、機械とどう付き合っていきたいですか? そして、どうすれば機械を信じることができますか? こういうことをぜひ考えていっていただきながら、新しい技術の登場に備えていてほしいなと思います。どうもありがとうございました。

Published at

スピーカーをフォロー

関連タグ

人気ログ

人気スピーカー

人気コミュニティ

ピックアップ

編集部のオススメ

ログミーBizをフォローして最新情報をチェックしよう!

人気ログ

人気スピーカー

人気コミュニティ

ピックアップ

編集部のオススメ

そのイベント、ログしないなんて
もったいない!
苦労して企画や集客したイベント「その場限り」になっていませんか?