人工知能も不正を働ける--フォルクスワーゲンの事例
伊藤穰一氏（以下、伊藤）：この間、フォルクスワーゲンがアメリカのEPAの試験を騙したというニュースがあったと思うんですけど。これは、我々のコンピューターサイエンスの先生の間でも随分議論されて、これも記事があります。
おもしろいのが、そのフォルクスワーゲンの中に誰かが打ったプロクラムじゃなくて、未来の人工知能が入っていたらどういうことになったか議論したら……きっと同じチート（不正）をしているだろうと。
なぜなら、（人工知能は）自分のタイヤがまっすぐでボンネットが開いてる時には絶対チェックされているってわかるから、そのチェックをパスするためのルールで動くだろうと。
ただ、自分の客席に乗ってる人のカレンダーを見て、「早く行かないと、飛行機に間に合わない」って言ったら、絶対排気ガスなんか関係なくスピードを出すだろうと。
例えばレストランなんかでも、誰かがチェックに来るっていったらちょっときれいにするじゃないですか。それは普通に人間がすることなんで、きっと車もそういうのは簡単に学びが起きる。
ただ問題は、人工知能の場合データの中身を全部見てもわからないんです。人工知能のメモリーというのは本当に統計的な脳と同じで、人間の脳を開けても何が入っているのかわからないのと同じで、人工知能をばらしても何が入っているかはわからないんです。
人工知能の管理は、常にチェックしなきゃいけない。人工知能ってめちゃくちゃ速いから、チェックされている時はわかるわけです。
そうすると人工知能が人工知能をチェックしなきゃいけない。それがイタチごっこになって、チェックされてるかどうか常に監視しながら、チェックしてる側も監視されないように動いて、そのチェックするチェックされる（というイタチごっこが続く）。
これは全然サイエンスフィクションではなくて、すでに市場のファンドでも全部人工知能で動いているファンドもあるし、自動運転の車以外でも、我々が人工知能にものすごく頼ってるものもたくさんあります。
Googleカーに見る、人工知能の弱点
伊藤：一方で、アメリカのFAの航空機機関が最近出したデータで、すごくおもしろいんですけれども、事故を分析したんです。事故分析すると何がわかったかというと、事故の種類ですごく多いのが、アメリカでは飛行機の自動着陸がすごくよくなって、天気が悪いときにはめちゃくちゃ信頼できる着陸方法なんです。
でも、すごい嵐の中だとパイロットが機械を信じられなくなってくるんです。そうすると、その人工知能のシステムをオーバーライドして消して、自分でハンドルを握ってクラッシュしてしまう確率がすごい高い。
だからアメリカは、その場合には人工知能を人間がオーバーライドできないというルールにしようとしているので、人間とコンピューターの関係ってすごく難しいんです。
一方で、Googleの本社の近くで、Googleカーがたくさん走っている所があるんだけれども、ちっちゃな若い子たちが最近いたずらでやってるのは、赤い紙でストップサインをつくってGoogleカーが来るとピッと出して（車が）止まる。これをやっていると、だんだんGoogleカーが混乱してしまう。
あとは、おまわりさんみたいな手振りをすると、Googleカーがそれを信じて動いてしまったり。Googleカーをハッキングしている若い子たちがたくさん出てきています。
それを見てみると、人間では絶対にだまされない。中学生が赤い紙を持って、ストップサインをしたって止まらない。
そういう意味でいうと、コンピューターはデータの中にあったものを統計的にサクサクとやるのはすごく上手だけれども、予想外のものが起きた時にどうすればいいかという判断は、やっぱりすごくダメなんです。
人工知能を用いた新しい医療のかたち
伊藤：今後考えていかなきゃいけないのが、コンピューターに向いているものと人間に向いてるもの。あとでゲノムの話も出てくるし、ロボットの話も出てくると思うので、そこに最後つなげると。確実にロボットと人工知能は進んできていて、数学とかメモリーだったり、ある程度物理的に決まったスキルというのは絶対コンピューターとロボットのほうが強いわけです。
そうすると、人間は何が強いか？ 例えば、医者が大学でものすごく学ばなきゃいけない量は、暗記とスキルです。それに耐えられるような人間しか医者になれないという、ちょっと変わったプロセスがあると思うんですけれども。
ただ、みなさんも経験していると思うんですけれども、ベッドサイドマナーってすごく重要なわけです。これも最近科学的にわかってきたんだけれども、医者を信用してるかとか、
自分が落ち着いてるかどうかとか、そのケアのインターフェースによって治療がどのぐらいいい影響をするかというのがわかるわけなんです。
そうすると1つの未来では、一番最新の研究を全部知ってる人工知能がいて、もしかしたら（患者に接するのは）お医者さんではくて、街角の薬局屋さんのおばちゃんでいいのかもしれない。
この人とちゃんとコミュニケーションして、コミュニケーションするだけではなくて「今日、どんな気持ち？」という情報も聞き出せる、人間関係の上手な人。
怖いお医者さんには言えないようなことを、街角の薬局屋さんには言えるかもしれないので、このデータの入力とそこからの出力は、人間とのコミュニケーションがすごく上手な人がやるべきなのかもしれない。
そうすると、その人は難しいお医者さんの学校に行かなくても、1年か2年人工知能とのコミュニケーションの学校に行って、その薬局屋さんが一番最初の医療のインターフェースになる。
そして必要なときには、病院やお医者さんにこの人工知能が（情報を）流してあげるということもあり得ると思うんです。
ロボットのような人間は入れ替えられる
伊藤：そういう意味では、日本はそうでもないんだけど、アメリカでは仕事が全部ロボットに持っていかれるというので、ラダイト（運動）のような動きがあるんですけれども、僕は人間っぽい仕事というのは逆に増えると絶対に思うんです。ただ1つ、最後のポイントになりますけれども、僕が思うのは教育システムを変えなきゃいけないと思うんです。
我々はやっぱり産業革命後、工場で働くとてもきっちりした人間を育ててきたんです。今の学校の試験とかみんなそうなんですけれども、今の教育システムはロボットのような人間をつくってるわけです。
ロボットのような人間をつくってしまうと、ロボットで入れ替えられちゃうので、ロボットを上手に使う人とか、何か興味持ったりする人とか、クリエイティブな人とか。
人間味がある人だとか、すごく人間臭い、少しメッシーな人たちのほうがもしかしたらロボットとうまくいくんじゃないかなと思います。
やっぱり人工知能とか自動運転が進む中で、いかに人間をもっと人間っぽくするかというのが、我々の教育、これからの会社の未来のあり方なんじゃないかなと思います。
以上でございます。ありがとうございました。
（会場拍手）
そして、質疑応答の時間があるんですけれども、もし質問や意見があればぜひ。誰かいらっしゃいますか？
これからの子どもに何を教えて、何を経験させるべきか
質問者：おもしろい話をありがとうございます。最後にお話なさってたところを一番お伺いしたい。「教育システムを変えていかなきゃいけない」とおっしゃられていたこと、私も同意見です。今、子どもを育てているんですけど、現在は教育システムが変わっていない中で、未来の人間っぽいとか、メッシーな人間……みたいなものをつくっていくための試行錯誤をしています。
伊藤さんは未来からみた時に、今育ちつつあって、教育が変わっていない段階の子どもには、どんな経験や勉強をさせるべきだと考えていらっしゃいますか？
伊藤：まず一番。「人間っぽい」というのは、みんなが一人ひとり違うということだと思うんです。僕の妹は学校が大好きで満点で、ハーバード行ってスタンフォード行って博士を2つ取った。
僕は「幼稚園にもう来なくてもいい」と言われて、大学3回中退して、最後またぐるっと回ってまた大学に入っちゃったんですけれども。その人によって違うと思うんです。だから、まずその子に向いている学ぶ方法を一生懸命考える。
あと、最近ノーベル賞学会といろいろ交流をして話して、科学者の歴史ってそれなりに分析されてるんです。
大体親じゃない他の大人……先生の場合もあるんですけど。全く関係ない八百屋さんのおじさんみたいな人もいるんですけど、誰かが子ども、（未来の）科学者をどこかでアフェクトしているんです。メンターみたいなものなんですけれども。
大人と子どもの関係で、その子どもが何かにハマってしまうんです。それにハマることによって、ガーッと深くいくんです。
うちのメディアラボの創業時にいたシーモア・パパートというすごい有名な先生がいるんですけれども。
彼はちっちゃなゴーカートをつくる。すごい小さい時なんだけど、ギアのトランスミッションをつくらなきゃいけないので、子どものときに物理的なギアをいじっていたら、それですごく数学がうまくなって天才博士になるわけなんです。
教育学的には証明されているんですけれども、教科書で学ぶ抽象的なものってほとんどリアルワールドでは使えない。学校で学ぶ英語みたいなもので、リアルワールドではほとんど通用しないものが今の教科書なんです。
逆に、車をいじってるときに学んだものを、今度全く関係ないところで使おうとすると、これは案外使えるんです。
プロジェクトを中心に学ぶ。メディアラボの4つのP
伊藤：だから、プロジェクトをやりながら学ぶ。メディアラボではプロジェクト、ピアーズ、パッション、プレイ、4つのPって呼んでるんです。プロジェクト中心に学ぶ。ピアーズというのは仲間と一緒に学ぶ。この間、僕らも中学生の話をNHKの人に聞いたんですけど、やっぱり他の中学生から聞いたことのほうが先生から聞いたことよりも残る。自分がしゃべったことのほうがもっと残るので。だからやっぱり、子ども同士で教え合うということがすごく重要。
パッションというのはすごく重要で、これは何かに夢中になる。本当に何でもいいと思うんです。これが絶対いいっていうよりも、その子が誰かと出会って（夢中になる）。
僕が最初に夢中になったのは熱帯魚なんだけれども、何でもいいと思うのね。それに、夢中になるといろんなものを学びたくなる。
最後がプレイという、遊びなんです。なぜ遊びが大事かというと、クリエイティビティにはすごく重要なんです。これもかなりいろんな研究のデータがあるんですけれども。
単純作業をしてる人にプレッシャーをかけたり、お金を目当てにリウォードをあげると速くなるんだけれども、クリエイティビティが必要な比較的に複雑な問題というのはプレッシャーをかけると、解く時間が長くなってしまうんです。むしろ、遊び心があった人のほうがクリエイティビティが旺盛なんです。
日本の学校を考えると、プロジェクトじゃなくて教科書。「絶対1人でやりなさい」と。そしてパッションは全くかからない。絶対「あんまり遊んじゃダメだよね」みたいなのがあって反対だと思うんです。
そういう環境をつくってあげるといいので、子どもとコミュニケーションをして、その子がなるべく早く何かに興味を持つということがポイントかなと思います。
日本の強みを生かした、人間らしい仕事
質問者：貴重なお話ありがとうございました。私も最後の「人間らしい仕事」というところにわりと関心がありまして。シンギュラリティ（技術的特異点）とか、よく雑誌に「これから10年間でなくなる職業40」みたいなものが羅列してあったり。そういった中で、人間の産業との関わり方が大きく変わってくるのかなと思うんですけど。
人間らしい仕事というのは、実際に今後起こりうる産業であったりとか、ビジネスモデルであったりとか、あとは会社であったりとか、そういったものって何か具体的な例ですとか……。
先ほどの薬局の話も近いのかなと思うんですけれども、何かありましたら少しアイデアをお聞かせ願えたらなと思います。
伊藤：今週の前半に、森ビルと一緒に『イノベーティブ・シティ・フォーラム』というのをやったんですけれども、そこでいろんなアンケートをしたら、「アートとデザインと文化がとっても重要だ」ってみんな思っていて。
僕も日本に絞ると、世界的にも言えると思うんですけど、文化とアートというのはコンピューターにもできないし、我々（人間は）とても強いと思うんです。
東京はパリよりもミシュランスターが多いという、とてつもない街なんです。ただ、この間の国ランキングでは、文化的なところが比較的低く見られているのは、あんまりオープンに外に伝えることができていない部分もある。
アニメとかそういうのは国際的に出て行ってるけれども、やっぱり日本にまだ固まっちゃってる文化というのはあると思うんです。
後で編み物の話もあると思うんですけど、クラフト技術も日本の職人が持っているすごくいろんなものがあると思うんです。それは人間がやっている場合とコンピューターがやる場合とでは全然違ってくると思うんです。
特にアートとデザインというのは、今の世の中の全体的な流れを感じながら、いろんな昔のものを出してきて、人間にしかできないような作業だと思うんです。だから、それだけに全部入る必要ないんですけれども。
クリエイティビティには遊びが不可欠
伊藤：昨日NHKのイベントで真鍋大度さんが出ていて。彼がすごいなと思うのは、Perfume（の演出やプロモーション）もやっている。見ればわかると思うんですけど、ものすごい技術を使っているんです。ものすごいコンピューターを使っているけれども、毎回びっくりするような演出を考えるんです。それもコンピューターではできなくて。
ただ、これも技術をすごく上手に使っているので、彼も人工知能とかマシンラーニングを随分わかっていて、その操り方がものすごいと思うんです。だから、エンターテイメントも文化の一部だと思います。
さっき言ったプロジェクト、ピアーズ、パッション、プレイで考えると、遊び（プレイ）というのは、世の中にとってクリエイティビティのもとなんです。
今は何となく暇なときに遊ぶというふうになっているかもしれないんだけれども、やっぱりこの世の中にクリエイティビティを流し込むためには、この遊びというのが不可欠になってくる。
だから、何となくゲームをやったり遊んでいるのって……ちょっとギルティ。自分の仕事を愛している人って、ちょっと変な人みたいな感じですよね。早く仕事終わってビール飲みに行くというのが、今までのサラリーマン美学なんだけれども。
たぶん、編み物やっている人たちなんかも、夢中になってなかなか家に帰れない。1日が終わったら「ああ、こんなに早く終わっちゃった」っていうような。
アートとかそういう職業がすごく自分の情熱が入っていくものだと思うんです。そういう環境をつくるには、コンピューターがとても向いていると思うので。
産業革命後の高度成長の日本というのは「とにかく成長するためにみんなで苦しもう」という、戦後の苦しみの美学。
それをなくして、ちょっと昔のもう少し楽しい日本を思い出せば、何となくいろんな職業が発見できるんじゃないかなと思います。
科学者や技術者に求められる人間らしさ
質問者：ありがとうございます。最後にお話しされていた、人間的な仕事ということについてお伺いしたいんですが。先ほど、機械がやるようなことというのは重要じゃなくなって、より人間的なものが残っていく。一方で、プログラミングとかバイオの部分だとか、そうしたことはこれからの未来の人にとっては重要だとおっしゃっていると思うんですが。
理系の人がより人間らしくなるって、相反するような気もするので。そこをどうやって両立していくのか。
伊藤：これは朝日新聞のイベントで、すごく適切かなと思うんですけれども。コミュニケーションってすごく重要なんです。科学の世界の中で、すごく大きな判断がいくつかあって。
例えば、うちも一緒に研究をやっているのがいて、虫を遺伝操作する。他の同じ種類の虫と子どもをつくると、全部の子どもが操作された遺伝子を持ってしまうという技術なんです。
これをどういうふうに使うかというと、例えばマラリアの蚊をいじってマラリアを持てないようにする。
それをたくさん世の中に出すと、マラリアを持っている蚊と子どもをつくって、ちょっと時間が経つとマラリアを持てない蚊しか残らない。
今議論されているのは、農家で殺虫剤をまくのをみなさんご存知ですね。殺虫剤の対象の虫を遺伝子操作して、植物を食べたくないようにいじることができるんです。それを出すと殺虫剤がなくなって、すごく我々の健康にはいい。
ただ、虫を遺伝子操作していいのかどうか。実はもうすでにできているわけですが、それを誰が決めるかという問題なんです。
バイオテクノロジーに求められる社会全体の議論
伊藤：アメリカなんかは最悪で、アメリカの過半数の人はそもそも進化論を信じていなくて、天使を信じる人のほうが進化論を信じる人より多いという変な国なんですけれども。日本はまだましなんです。今言った技術というのは去年初めてできて、一昨年それの元の技術が初めてできて、今もう何かできるという技術になっているんです。
そうすると、そういう技術がどんどん出てきて、それを誰が決めて、どうやってみんなで話をするか。
科学者は優秀で、発見されそうになった時にはもう論文を発表しているんです。きっとこういうのがくると、みんな話してくれと、それで実際にできちゃった。ただ、これは国が決めるの？ 僕らが決めるの？ どうやって決めるの？
それがダメっていうのが1つの反応です。そうするとどうなるかというと、悪いやつしかやらない。そうすると、社会的にポジティブなものを使えなくて、社会的に悪いところだけが出てくるという方向も1つあるんです。
今、人間の遺伝子操作もそういうふうになりつつあって、アメリカは「とりあえずそれはやめよう」と。
中国はもう始めてしまったりしているんで、そういう意味でいうと、あんまりルールを考えない国や人ばっかりがやるという可能性がある。
でも、これはみんなで社会を巻き込んでディスカッションしないと、決めちゃいけないことだと思うんです。それはやっぱりマスコミだったり、サイエンティストのコミュニケーションだったり。
あと学校の中で理系、文系を分けないで常にみんなに全部教えるというふうにしないと、研究が進まないだけではなくて、ちゃんとした判断ができないんじゃないかなと。
これは政治家にも任せちゃダメだと思うんです。アメリカの国会も日本の国会もこんな議論できない。それどころじゃない状態だと思うんで、これはやっぱり社会で議論しなきゃいけないと思います。
特に後でバイオの話が出てくると思うんですけれども、バイオは今までに比べて動いてるスピードがものすごい早いし、我々の生活に良い意味でも悪い意味でもインパクトがものすごく早くくるので。
バイオについての社会的なアンダースタンディングと議論を、すぐにでもレベルアップしていかないと変なことになってしまうんじゃないかなというのも、僕も課題としてすごく意識しています。
ちょうど時間になりましたので、以上でございます。ありがとうございました。
（会場拍手）
