AIブームが「作られたブーム」と気づいた時の悔しさ　AI実装の第一人者が“異業界”で目指す「ブームを作る側」

経営コンサルタントが、ある日「AIの人」に

司会者：みなさん、こんばんは。代官山　蔦屋書店の石山と申します、本日はご参加いただき誠にありがとうございます。お時間になりましたので始めさせていただきます。今回は『サイバー攻撃への抗体獲得法』刊行記念としまして、韮原祐介さん・片山尚子さんをお招きしてトークイベントを開催いたします。

視聴者のみなさまからリアルタイムでのご相談も受け付けております。それでは最後までお楽しみください。お二人、よろしくお願いいたします。

韮原祐介氏（以下、韮原）：ありがとうございます。韮原祐介と申します。コロナがなかなか大変ですけど、今日は代官山蔦谷さんのお店の中をお借りしているので、今日はマスクをしたまま、どんなツラかわからないままですが、最後までお話しします。よろしくお願いします。

片山尚子氏（以下、片山）：ご紹介いただきました、片山と申します。ちょっと珍しく「尚子」と書くんですけれども、「ひさこ」と読むんです（笑）。よろしくお願いいたします。

韮原：では『サイバー攻撃への抗体獲得法』の本の話をしてみましょうか。

『サイバー攻撃への抗体獲得法 〜レジリエンスとDevSecOpsによるDX時代のサバイバルガイド』

片山：まず最初に韮原さんにお聞きしたいことは、なぜサイバーの世界にいったんだろうということです。私は韮原さんと付き合いがもう10年ぐらいあるんですけれども、当時の韮原さんを思い出す限りでは、「人材のコンサルタント」のような、人事戦略とかやられていたんですよね。そこから、ある日「AIの人」になっていて（笑）。

韮原：（笑）。

片山：韮原ファンだったらうれしいような、すべてのページに韮原さんの顔が描いてあるというAIの本を出されて。

韮原：ファンはいないので（笑）。Amazonのレビューで「中身はいいんだけど全ページに顔が入っているのがちょっとウザいです」とかいっぱい書いてあって、いや別に自分で入れたわけじゃなくて（笑）。

インプレスさんという出版社のシリーズで、全員そうなってるんです。例えば、すごく大柄なぽちゃっとした人もデザインでそのままで描いてたりするシリーズなわけで（笑）。そういうやつでした。

サイバーセキュリティの世界に踏み入れた経緯

片山：「あれ？　AIの人になってる！」と思ったら、今回はサイバーの本を出すという。どこからサイバーセキュリティの世界にいったんだろうと思って。どういう経緯でこの世界に入られたのか、個人的に聞きたいなと思っています。

韮原：なるほど。まず片山さんがご存知の頃は、外資系のコンサルティングファームにいたんですけども。経営コンサルティングの仕事って、「経営コンサルティングをやっているけれども、経営についてはほとんど何も知らない」というところがあるじゃないですか。

例えば「この人をいくらで採用するべきなんだろう」とか、「従業員の給料は来年いくらにしようか」とか、そういう話は人事・組織コンサルタントとしてやっていてもあまり扱わないじゃないですか。

報酬制度とか等級制度とか、職種の分け方とかタレントマネジメントのやり方とか、何万人企業用のそういうのはいくらやっても、あまり経営者の悩みはわからないじゃないですか。そのアクセンチュアという会社は10年目で辞めたので、「一通り、かなりやったな」と思う頃だったわけです。

そこで「小っちゃい組織にいきたいなぁ」と思って。小っちゃい組織なんだけど、小さすぎると「食うにも困る」ような会社がいっぱいあって。当時からデータ分析とかマシンラーニングとかをやってたブレインパッドという会社は、僕が入った時は160人くらいでした。（アクセンチュアから）転職しようかなと思い始めた頃は、たぶん100人超えたかくらいだったので、ちょうどいいサイズでした。「アナリティクスとかこれから大事だよね」くらいの感じで入ったんです。

AIを使った機械学習を実装する「方法論」を誰も持っていなかった

韮原：入社して割とすぐに世の中が「AI！」と言うようになっていきました。（ブレインパッドに）入ってみたら、この会社はマシンラーニング、つまり機械学習をすごくいっぱいやっていたんですね。

コンサル時代はマシンラーニングのプロジェクトはやっていないです。入ってから「マシンラーニングっていうものがあり、これが人工知能と言われてるやつなのね」と詳しく知る感じでした。ちょうどブームが始まる前夜のような感じだったんですよね。

アクセンチュア時代はけっこうSI（システムインテグレーション）もやっていました。実はアクセンチュアのSIの方法論を、KL（クアラルンプール）に行って2週間、若者たちに教えたりとかしてたんですよ（笑）。

片山：そんなSI経験や教えたりもされていたんですね。それは知らなかったです。

韮原：実はそういうことをやっていて。一緒に教えている人たちにも、そもそものその方法論自体を作るのに関わったタイ人がたまたまいたり、今はGoogle Brainにいるアトランタオフィスの人がいたりしました。

（アクセンチュアでは）ちゃんとした方法論のシステム開発をやったことがあったんですが、当時ブレインパッドはSIerっぽいちゃんとした方法論を持っておらず。かつマシンラーニングってまだそんなに誰も、ちゃんと実装して日々使われてはいませんでした。

試してみて「画像の認識精度が何パーセント出た」とかはやっていても、実際に日々使うには、システムとして組み上げなきゃいけないじゃないですか。マシンラーニングの精度を上げるところはすごくよくできます。それだけでも十分すごいんですがでも、システムとして組み上げるところのやり方はよくわかっていなかった。

当時のブレインパッドがあまりわかってないということは、日本のどの会社も、そして世界でもわかっていないという状態がありました。

システム開発とマシンラーニング実装のそれぞれの難しさを体験

韮原：たまたま2015〜2016年ぐらいに、某エンタメ系企業でやった需要予測のシステムがあったんですけど、とても画期的だったのですが、やってみて細かな失敗もしたんです。つまりアクセンチュア流の方法論でやって、ちょっとミスったなという部分もあった。「これがマシンラーニングやる時の特徴というか、難しさなんだな」というのも、システム開発をやってきた人として（感じていました）。

僕もそんな、ずっとシステム開発を10年やっていたわけじゃなくて、ほとんどはコンサルワークだったんですけど。でもコーディングもしてましたし、そういうシステム開発をある程度わかっていて、そこで感じる難しさと、マシンラーニング自体を実装する難しさを両方、その場で体験して。

誰もやってなかったというか、やってる人はいるけども、知見としてはそんなに出ていなかったので、機会があって「本にまとめたほうがいい」という話になり。いろんな経緯があって、本にまとめました。これがまず1冊目の本ね（笑）。

片山：まだこの本にはぜんぜんいっていない（笑）。

韮原：1冊目は『いちばんやさしい機械学習プロジェクトの教本』っていう本なんですけど、（副題が）「人気講師が教える仕事にAIを導入する方法」だったかな。ちなみに当時はほぼトレーニングとかやってないから、「いったい誰が人気講師なんだろう」とか……。

（会場笑）

片山：（笑）。

韮原：（タイトルは）出版社がこれでいきます、というのですが、景品表示法違反なんじゃないかなとか思いながら、はいそうですか、って言ったんですけど（笑）。その後ね、東進デジタルユニバーシティとかで教えたりとかもやるようになったんです。

片山：噓じゃなくなったんですね。

「今日的AIの実装方法」は、自分の中でカタがついた

韮原：それは置いといて……そうして過ごしてるうちに、今日的AIの実装は自分の中でもうカタがついたというか。わかっちゃったところがあって。

実際に私が書いた本とほぼほぼ似たような感じで、国立産業総合技術研究所というところの、人工知能研究センターが「AIの実装方法はどうあるべきなのか」というのを、確か2020年の夏ぐらいにまとめて出してるんですよ。「機械学習品質マネジメントガイドライン」っていうんですけど。

たぶん120～30ページくらいの、人工知能研究の大先生と、NECさんや日立さん、富士通さんとか、そういういろんな日本の大手企業の皆さんでおまとめになった報告書を見たんですけど。ほとんど自分の書いた本のとおりで、やっぱりみんなそう思うんだなと。

片山：やったじゃん、みたいな（笑）。

韮原：「2、3年前にもう書いたよ」とか思ったりもしたわけですよ。

片山：それぐらいやりきったんですね。

韮原：そうそう。そういう気持ちになるぐらい、「話としてはまとまったな」と。冷静に人工知能の進化を見つめてみると、要素技術の進化はもう止まってると言っていいと思うんですよね。つまり「ディープラーニング」という、ニューラルネットの層を多層化したりして工夫する方向で精度を上げることについては。それを使っていろいろと個々の持続的な改善はやっているものの、一発ドンとくるイノベーションはもうそれだけで、概ねカタがついたなと。

AIの要素技術の進化は止まり、問題は実装後の「サイバー攻撃」へ

片山：すごいね、そんなに先を見てできているんですね。

韮原：いやいや、当たらない時もあるからアレなんですけど。10年後に解決するかもしれないし。今できないことというのは、例えば何か直感的にひらめくとか、勘が働くとか。そういうことが今のAIはできない。

あと、自分が何でその答えを出したのかということもうまく説明できないとか、そもそも大量にデータを学習させなきゃいけないので、大量のデータが用意できない場合はそもそも機能しない。それ自体も課題だったりするんですけど。

そのあたり、人間はあまりデータがなくても意外と大丈夫です。TSUTAYAでその辺の本を1冊手に取って、それでインスピレーションが湧いて事業をやる人とかもいるじゃないですか。でもAIさんはTSUTAYA中の本を全部読んで、初めてもしかして答えが（導ける）。「昔やってたことをまとめるとこうなる」ということしかできない。そう思っていたんですよ。

要素技術の進化は止まっているけど、実装はどんどん広がっていく。「Society 5.0」と国も言うようになって、そのうちデジタルトランスフォーメーションというように、どんどんデジタル化が進んでいくと。

ということはこの先、いろんなAIが重要な意思決定を担っていくのは間違いない。でも要素技術の進化が止まっているとなったら、これはもう「サイバー攻撃」が匂うぞと思ったわけですよ。というのが、最初の質問の長い答えです（笑）。

片山：なぜセキュリティにたどり着いたのかという謎が解けました（笑）

韮原：そう。そこに至る理由。なんか採用面接みたいになってますね（笑）。「君、サイバー攻撃になんで興味持ったの？」みたいな（笑）。

片山：すいませんね（笑）。

AIブームは「作られたブーム」だった

片山：来てくださってるみなさんの中で、この本を読まれた方ってどれくらいいらっしゃいますか？

（会場挙手）

あ、みなさん読んでくださっているようです。ありがとうございます。

韮原：ありがとうございます。本に書いてないので、よかったですね。

片山：そうですね。でも読んでいて、最初がAIの話だったじゃないですか。なんとなくそういう話なんだろうなとは想像してたんですけど、いつのタイミングでどれくらい先を思ってたのかという話は、すごくびっくりしましたね。

韮原：ただ、進化は止まったと言いつつ、とはいえAIで金儲けはやっぱりいくらでも（できる）。むしろそっちのほうが市場は今後も大きいと思うんですよね。さっき「産総研より自分のほうが早かったぜ」とか言って自慢話しちゃいましたけど（笑）。すみません。でも、今のAIブームを作ってる人たちがやっぱりいるわけですよ。

それは自分が1冊目の本である『いちばんやさしい機械学習プロジェクトの教本』を書いた時に調べて、「あ、これはやっぱり作られたブームだな」って気づいちゃったわけですよね。ああ悔しい、って思いました。その人たちの手のひらの上で「流行りのAIやってる人」になったみたいで、「なんかだっせぇな」という気持ちがありました。

国の戦略に世間が動く、トップダウンが効く国・日本

片山：ブームを作ってる人は、どういうところの人たちなんですか？　聞いちゃってもいいですかね。

韮原：いいですよ、ぜんぜん。実際に会いましたけど、例えば省庁で日本再興戦略とか、未来投資戦略とか、国の戦略を書いてる官僚の方々が、当時の首相の安倍（晋三）さんのところに持っていって。2016年にはもうAIを国の戦略にしていくとなっているわけですよ。

私がマシンラーニングのシステム的な実装のプロジェクトに苦労しながら……やっぱり2016年に、同じ頃にすでに国は成長戦略としてのAIっていう方針を決めてたということがあって。

その知見をまとめて2017年ぐらいに原稿を書いて、2018年の3月ぐらいに本が出てるんですけど。その頃にはもう「ガンガンAIでGDP上げていくぜー！」という頃だったわけですよ。でもやり方がわからない、だから「やり方知ってそうだから本書いてください」という順番だったんです。

その流れを作っているのはやっぱり（国です）。日本は意外とトップダウンが効いていて、国が「こういう方向でいくぞ」と言うとそっちに動いていくんですよね。中国がすごくトップダウンだって言いますけど、意外と日本もトップダウンだと私は思っていて。だって2016年にAIを国家戦略にするって言って、その通りに今もう「AI」「AI」って言っているじゃないですか。

そのあと「DX」と言っているでしょう。DXも経産省が（号令をかけているんです）。2025年に、システム老朽化問題があって、それまでに今の状態のまま古いシステムを持ってたり、まったくシステム化されてない状況になっているとまずいから、DXやDXやって言っているんです。かなりトップダウンが効く国だと思いますね。

“ブーム”を作れる領域を探し、たどり着いた「AI×サイバー攻撃」

片山：興味深い。では、今のセキュリティ、サイバーってどうなんですか？

韮原：さっきの質問に一度戻すと、経産省とかいろんな省庁で日本再興戦略とか未来都市戦略を書くのに、意見を参考にしている人たちがいるわけですよ。だから投げ込みをしてる人たちがいて、私の知る限りはヤフーCSOであり、今慶応SFCの先生をやってらっしゃる、『シン・ニホン』著者の安宅（和人）さんとか。あと『人工知能は人間を超えるか』の東大の松尾豊さんとか。ああいう方々がやっぱり省庁の方々とお話しされてるんだろうなという感じがあって。

その安宅先生・松尾先生のおかげで食わせていただいていたという気分になりました（笑）。やはりトレンドを「作る人はかっこいいな」と思ってたんですね。で、何か作れる領域を探したいなと。

もちろんサイバーセキュリティの業界は、ずっと何年もやってる会社がいっぱいあります。あるんですけど、ただ本の1章でも「AIをハッキングできるよ」あたりから書いているんですが……。

やっと今回の本の話が出てきましたけど、マシンラーニングの実装の世界をのぞいたことがないと、なかなかその話ってできないんですよね。既存のサイバーセキュリティ業界の方々は、それ（AIの実装）をやっていたわけじゃないので。

ただ、その両方を掛け合わせると、既存の今までサイバーセキュリティ業界をやられてた方からも学ばせていただき、でも自分も何か持ち込んで、貢献できるものがあるのではなかろうかと思った。そんな感じですね。

さらに、今後のサイバーセキュリティは、システム開発のやり方から考え直さないといけないので、ソフトウェアをどうセキュアに作るかっていう視点で、サイバーセキュリティの世界にいる人は、まだあんまりいないように思います。これからもっと増えると思います。そういう問題意識の本です。

片山：なるほどね。それでやっとサイバーセキュリティのところに（行きついたんですね）。

韮原：どうですか、今日の面接は受かりそうですか？

（会場笑）

片山：かなりいいところまでいったんじゃないですか。大丈夫大丈夫（笑）。

韮原：よかった（笑）。