2024.10.01
自社の社内情報を未来の“ゴミ”にしないための備え 「情報量が多すぎる」時代がもたらす課題とは?
機械学習・データコース 機械学習(全1記事)
提供:LINE株式会社
リンクをコピー
記事をブックマーク
菊地悠氏:メイン領域の説明をします、菊地と申します。よろしくお願いします。
簡単に自己紹介をいたします。肩書はシニアマネージャーで室長をやっています。今はマシンラーニング領域において、プラットフォームを開発している組織とソリューション系の事業貢献をメインにしている組織の2つを見ています。
私は、エンジニアかと聞かれるとちょっと自信がなくて、プロダクトマネージャーという肩書のほうが、個人的にはしっくり来ます。
少し背景を説明すると、Work Experienceというところに書いてあるとおり、研究の領域でさまざまことをやってきたという経歴で、なんでも屋さんにちょっと近いかなと思います。
左側に貼ってある写真は昔のもので、右下の写真は社会人になってからわりと日が浅い頃、当時米国で仕事をしていた頃に、国立公園に行って撮った写真です。LINEに入った後に、家族や子どもを連れて、もう1度同じ場所に行って、キャンプをしたという思い出です。
では、さっそく本題に入りたいと思います。実際どういう業務があるのか、事例から紹介し、先にイメージを持ってもらってから、それをどういう環境で実現しているのか、どういう組織体制でやっているのか、どういう人たちが働いているのかという順番でお話をしたいなと思っています。
ちょっと量は多いのですが、いろいろやっているということが伝わったらいいなと思っていて、個々はあまり深く話せないかもしれませんが、質問などがあれば聞いてください。
みなさん、LINEアプリをご利用いただいていると思いますが、(LINEアプリには)大きく画面が5つ存在しています。(スライドを示して)左から「Home」「Talk」「VOOM」「News」「Wallet」とありますが、実際にUIのパーツのようなものがたくさん並んでいるかと思います。
この中で、マシンラーニングの仕組みが入っているのが、今ちょうどハイライトで重ねた部分です。例えばホーム画面の中には、下のほうにスクロールダウンしていくと、おすすめのサービスやコンテンツが入れ替わり出てくるような領域があったり、トーク画面の上のほうにも、コンテンツや広告が出てくる枠があったり、というふうになっています。
社内には複数の機械学習をやっている組織がありますが、私がいる組織ではかなりの部分をやっています。
具体的にいくつかピックアップして紹介していきます。まずわかりやすいところでは、スタンプのレコメンデーションというものがあります。データのボリュームとしては、おすすめのアイテム、商品の数が1,000万というオーダーで存在します。また、ユーザー数はアクティブユーザーで数えてもLINEアプリはグローバルのMAUが1.7億人を超えます。
これらのユーザーが、スタンプショップを訪問した時に何をおすすめするかというロジックを作ったり、A/Bテストをして新しいものにどんどん置き換えていったりしています。
もう少し詳しい話が知りたい、という方がいらっしゃれば、右下にリンクも貼ったので、参照していただけたらなと思います。
スタンプに関しては、Auto-Taggingという機能も提供しています。これは、文字を入力すると、その意味に近いスタンプが表示されて選べるというものです。
一部のクリエーターさんが個々のスタンプに、これはこういう意味だよとタグを付けてくれているのですが、その他多数のスタンプにはタグが付いていないので、このようなスタンプ画像に、自動でタグ付けをしています。
Smart Channelと呼ばれる、トークタブの上部に出てくるコンテンツや広告に関しては、コンテンツのロジックを数十というオーダーで提供しています。
(スライドを示して)この表示面には、いろいろなサービスが、「この人にはこういうコンテンツを出したい」という情報を独立に提供してくれる作りになっているのですが、表示できるのは1つだけなので、最終的にはその中から1個だけを選んで表示する最適化の仕組みが入っていて、Multi-armed banditと言われる技術を利用しています。このあたりのロジックも開発や改善を検討しています。
続いて、属性推定について。LINEアプリの利用者に対して、年齢や性別などの情報は提供してもらっていないのですが、例えば、「コンテンツを配信したい」とか「広告を配信したい」というニーズがあります。このため、こうした属性情報をマシンラーニングで推定しています。
これも数億というユーザーのデータを扱っていて、最近もモデルを新しいものに置き換えたりしています。
ここ1、2年で新しく始めた話として、出前館の取り組みがあります。2021年の「DEVELOPER DAY」でも発表しているのですが、マシンラーニングの機能をいくつも提供しています。
具体的には、商品のレコメンドに加え、お客さまが実際にオーダーをした後に、どれくらいの時間で配達が完了しそうかというのを予測したり、あるいは配達をしてくれるドライバーとして誰にアサインをお願いすればよいのか、といった処理を提供しています。
ほかにも、ドライバーの方向けに、どのあたりで待っているとお客さんから注文が入りやすいのかを予測した情報も生成しています。
以上が、アプリケーションやサービスという観点での紹介でした。
このように、さまざまなサービスに対してML(マシンラーニング)の機能を提供していくにあたり、共通化部分を増やすための取り組みもいろいろ行っています。
まず「Libra(リブラ)」と呼んでいるツールを紹介します。推薦エンジンを作った時に、今動いているものと新しいものがどう違うか、定性的に把握したいという場面があります。
こういった場合に、単純にデータを覗くと、誰々さんというユーザーIDに対して、アイテムのIDだけが並んだ情報が入っていて、こちらの方が指標が良い、みたいになってしまうのですが、実際にどういうものが推薦されているのかを可視化して、事業部に見てもらったり、内部でどれをA/Bテストに進めるか判断するために使ったりしています。
スライドの中央にあるのは、実際にA/Bテストをする際に設定をするためのCMSです。どれくらいのユーザーに、いつから何種類のパターンで違うコンテンツを出すかということを整理するために使います。また、リアルタイムでA/Bテストの結果を見るダッシュボードなども作ったりしています。
複数のサービスのデータやソリューションを提供していると、機械学習のデータの作り方も共通化したくなります。
z-featuresと書いてあるのが、ユーザーのログをサービスに関係なく同様の形式で加工してマシンラーニングで入力、特徴量として使うためのものです。もう1つ、コンテンツの情報もメタ情報を管理するために共通したテーブルを作っています。
生データそのものに関しては、取り扱いを多少注意しなくてはいけませんし、スパースで非常に次元が大きいデータなので、MLで取り回しが難しいケースもあります。その場合、表現学習という処理をかけて、別の密なベクトル(図中のy-features)に変換し、後段でマシンラーニングの処理を走らせるということもやっています。
データ以外に、開発に使うライブラリ等も自作しています。データのレイヤーを抽象化してアクセスを簡単にしたり、なんらかの動的チェックを入れられるようにするものや、Kubernetesクラスタ自体を隠蔽して、Remote Procedure Callが簡単に呼び出せるようにするようなライブラリも作っています。また、MLのモデルの実装も、ghee-modelsという社内で利用しているライブラリに入れていく、という活動を進めています。
冒頭で、LINEには他にもML組織があるとお伝えしましたが、私たちの組織は、大量のデータが生成される事業領域に注力しています。
あとは、サービス横断でマシンラーニングを扱っているので、さまざまなサービスやデータに触れる機会があります。
開発の環境に関して紹介をします。LINEにはデータプラットフォームがあり、マシンラーニングをやっている私たちも、1ユーザーとして、この環境を使わせてもらっています。
「Hadoop」にはさまざまなサービスのたくさんのデータが入っており、そのデータを加工するために「Spark」という技術を使っています。
データを加工しMLの処理を行う部分はこの図には描かれていませんが、処理した結果は再度Hadoopに出力したり、「Redis」の環境に入れたりして、サービスに提供しています。
ビジネスインテリジェンスと書かれている部分は、作ったもののデータの中身を確認するダッシュボードやアドホックな分析をするためのツールなどで、これらも利用させてもらっています。
開発に使っている環境や言語は、ここに簡単に書きました。私たちの組織は、サーバーの開発にはPythonとGoを使うことが多く、マシンラーニングのモデルの実装等ではPythonを多く使います。
また、データの加工に関しては、先ほどお話ししたHadoopにたくさん情報が入っているので、「SparkSQL」や「PySpark」を利用しています。
MLのモデルの実装は「PyTorch」をメインで使うケースが多いのですが、「TensorFlow」で動いているものもあります。
その他ライブラリで、低レイヤーで並列で高速に分散処理をするようなところだと、「MPI」や「ZeroMQ」などが使われています。
MLのアプリケーション、ライブラリ、ツールを開発している中で、「もう少し簡単に使えるように」となれば、裏側で動いているシステムやプラットフォームもさらに隠蔽して、API越しにサービスを呼び出せるものもあります。
直近だと、「ML Batch APIs」という名前で、たくさんのMLのモデルにアクセスできる仕組みを整えています。
ちなみに今映している画面は、実際に社内で運用しているシステムなのですが、画面を設計したり作ってくれるUI関係の社内組織と連携して開発を行っています。
直近でチャレンジしていることをお話しします。Federated LearningやDifferential Privacyという技術領域があります。
簡単にいうと、処理をサーバーと、クライアント側の両方で行うのですが、クライアント側で学習・推論を走らせ、生のデータがなるべくクライアントから出ないようにしつつ、複数のクライアントから送られてくる学習結果をサーバー側で統合し、1つのMLモデルを更新する、というようなことをやっています。
最近はチームや組織が徐々に大きくなってきているので、新しいことに取り組む際に、チームをまたいでやりたいことが出てきています。そのため、リサーチプロジェクトというものを設定し、やりたい人が手を挙げて、毎週集まって、論文を読んだりサーベイしたりするところから始めて、なんらかの開発案件に落とし込んでいくという活動もしています。
(スライドを示して)今映っているのは、最近やったものや、これから始めようとしている内容です。
仕事をする環境に関して、少し説明します。2つの組織があり、Machine Learning Platform室と、Machine Learning Solution室に、機械学習エンジニアがそれぞれ配属されています。
名前からイメージできるように、仕事の内容は少し違いますが、プラットフォーム開発、システム、API等を作るのはMachine Learning Platform室が中心になります。一緒に仕事をする相手は、プラットフォーム開発者です。開発したものを使ってもらう人たちは、データサイエンティストやマシンラーニングエンジニアです。
一方、Machine Learning Solution室が一緒に仕事をするのは、サービスの企画者や、サービス側の開発者です。
内部でどういうロールがあるかというと、先ほどお話ししたように、マシンラーニングエンジニアは2種類あり、プラットフォーム寄りかサービス寄りかで異なります。
それ以外に、システム、API、ライブラリ、場合によってはインフラを管理していく必要があるので、DevOpsのエンジニア、サーバーサイドのエンジニア、データエンジニアなども組織の中にいます。
プロジェクトの中では、異なるスキルセットを持った人たちと一緒に仕事をしていくので、PMの役割もあります。
実際にプロジェクトを進めていく際には、プロジェクトの規模や対象によって、アサインは都度変わるのですが、(スライドを示して)例えば一番左、サービス向けにマシンラーニングのエンジンを開発して、レコメンドを提供できるようにしましょうという場合だと、開発は小規模なので、PMが1名立って、場合によってはサーバーサイドのエンジニアがサポートに入りながら、ソリューション系のマシンラーニングをやるエンジニアが主に進めていくという体制をとります。
モデル開発そのものをやる場合には、マシンラーニングのソリューション系をやる人、システム系をやる人のどちらも参画して開発を進めます。
また、周辺システムを開発する際には、サービス寄りのマシンラーニングエンジニア抜きで進めますし、より大きなシステムを開発する場合には、作る人、使う人、全部入り乱れて開発をしたりするケースもあります。
現状、下記のようなチームがありますが、募集ポジションについてお話ししようと思います。
(スライドを示して)上の4つに関しては、機械学習をやる人たちに応募してもらいたいなと思っています。プライバシーとデータエンジニアに関してはこの後に説明があるので割愛します。
Preferred Skillsetと書いてあるスライドになりますが、私たちはものづくりと分析の両方をやりながら、実際にMLでより良い性能が出るものを作っていくということをやっています。そのため、エンジニアリングが中心の組織なのですが、同時に分析やデータを見ることもやることが非常に重要になります。
LINEの中では、モチベーションが高い方、自発的な方が活躍されている印象がありますし、責任感がある人は、新しい仕事をどんどん任せてもらえるというポジティブなサイクルも回っていると思います。
また、コミュニケーションに対して前向きな人ほど、いろいろな人たちと仕事をする機会が増えていくので、長い目で見た場合にはおもしろい仕事にもありつけることが多いかなと思っています。
最後に、いい意味で割り切れる人というのは、仕事なのでどうしても必要なスキルになってくるのですが、なるべく楽しい仕事を作れるようにということもやっています。
今日紹介した内容のより詳しい話や技術的なところは、今お見せしているページにアクセスしていただくと、見ることができます。
(スライドを示して)私たちの組織にいるメンバーの7割くらいの人たちが顔を出してくれているのですが、こういうメンバーで今仕事をしています。みなさんが来てくれるのを楽しみに待っているので、応募してくれるとうれしいです。
私からは以上です。
LINE株式会社
関連タグ:
2024.10.29
5〜10万円の低単価案件の受注をやめたら労働生産性が劇的に向上 相見積もり案件には提案書を出さないことで見えた“意外な効果”
2024.10.24
パワポ資料の「手戻り」が多すぎる問題の解消法 資料作成のプロが語る、修正の無限ループから抜け出す4つのコツ
2024.10.28
スキル重視の採用を続けた結果、早期離職が増え社員が1人に… 下半期の退職者ゼロを達成した「関係の質」向上の取り組み
2024.10.22
気づかぬうちに評価を下げる「ダメな口癖」3選 デキる人はやっている、上司の指摘に対する上手な返し方
2024.10.24
リスクを取らない人が多い日本は、むしろ稼ぐチャンス? 日本のGDP4位転落の今、個人に必要なマインドとは
2024.10.23
「初任給40万円時代」が、比較的早いうちにやってくる? これから淘汰される会社・生き残る会社の分かれ目
2024.10.23
「どうしてもあなたから買いたい」と言われる営業になるには 『無敗営業』著者が教える、納得感を高める商談の進め方
2024.10.28
“力を抜くこと”がリーダーにとって重要な理由 「人間の達人」タモリさんから学んだ自然体の大切さ
2024.10.29
「テスラの何がすごいのか」がわからない学生たち 起業率2年連続日本一の大学で「Appleのフレームワーク」を教えるわけ
2024.10.30
職場にいる「困った部下」への対処法 上司・部下間で生まれる“常識のズレ”を解消するには