世間はアルゴリズムに一喜一憂している
尾原和啓氏（以下、尾原）：どうもこんにちは。『アルゴリズム フェアネス』の発刊記念で10分対談。
今日は盟友中の盟友である、けんすうさんと対談したいと思います。けんすうさん、よろしくお願いします。
けんすう氏（以下、けんすう）：よろしくお願いします。
尾原：『アルゴリズム フェアネス』の正直な感想はどうでした？
けんすう：いや、最高でしたね。
尾原：最高（笑）。ありがとうございます。どのへんが？
けんすう：（アルゴリズム フェアネスの内容については）ここ5年ぐらい、よく言われていた話だと思うんですけれども。
今まで、人が恣意的に判断していたものが、アルゴリズムになったときに「そのフェアネスって誰が担保するんだっけ？」という議論が、ずっとされていて。
問題なのは、その全容を把握している人が実はほとんどいないところだと思うんですけど。その論点がちゃんと整理されて「今はこんなことが起きてますよ」と書かれていて、良いんじゃないかと思いました。
尾原：ありがとうございます。そうなんですよね。だから、たぶん「アルゴリズム」という言葉も、一般に生活されている方々にとっては、なかなか耳慣れない言葉なんですけど。結局は人間ってGoogleの検索結果の上位に出ると、中小企業さんとかでも売上がぜんぜん変わっちゃったり、ベンチャーに至っては上場するかどうかが決まっちゃう、みたいな話だったり。
一方で個人として見てもInstagramやTikTokでどれだけ「いいね」がつくのか。それって結局「どれだけ表示されるのか」というアルゴリズムに一喜一憂しています。その歴史を含めて、そのへんの構造をちゃんと見なきゃなというのと。
逆にその観点で考えたら、実は日本って国も「誰にチャンスをいっぱい与えてるの？」みたいなアルゴリズムだし。中国のアルゴリズムもあるし、アメリカのアルゴリズムもあるし。そういうところをいっぺん全部書いてみなきゃな、というのがもともとの経緯なんですよね。
けんすう：なるほど。
尾原：その中でもどうですか？ 「なるほど、ここが一番おもしろかったな」というところとか。最初は褒めてほしいんですけど、逆に「とはいえ尾原さん、ここに違和感あるんで、やっぱりもっと詰めたほうが良かったですよね」って話をしたいんですよね。
けんすう：なるほど、難しいな（笑）。
尾原：はい、難しいよ。簡単な褒めるところから褒めていただいていいんですけど。褒めるのが難しかったらツラいんだけどね（笑）。
アルゴリズム決定の背景にはミッションがある
けんすう：結局「フェアネスとはなんぞや」という話だと思っていて。今日そこを話したいなと思ってました。
尾原：そこを話しましょうよ。
けんすう：要はGoogleもTikTokも「誰にチャンスを与えて、誰には与えていないのか」が、よくわからないじゃないですか。
尾原：そうですね。
けんすう：それによって「アルゴリズムを発見する」というか「ハックできる人はめちゃくちゃ利益を得て、その情報を知り得ない人はぜんぜんチャンスを与えられない」となっているのだとしたら、けっこう格差が生まれやすいので。そのへんをどう考えるといいのかは最近気になってることですね。
尾原：でも、そこがおっしゃるとおりで。それをちゃんと書けばよかったなぁ。これは『ザ・プラットフォーム』の中にちょろっと書いてる話なんですけど「ビジネスモデルの重力」という話をしてるんですよね。
要はプラットフォーマーの方が何をもってそのアルゴリズムを決定するかは、僕は3つあると思ってるんですよ。1つはやっぱり「創業者が何をやりたいのか」という、ミッションですよね。Googleだったら「誰もが良い情報にすぐに出会えるようにしたい」という感情だったり。
Facebookだったら「友達の薄い関係が広がっていくことによって、世の中はしなやかになる」と創業当初は思っていて。最近はやっぱり「親密で世の中を良くするようなコミュニティの数が増えると、世の中が良くなるよね」というふうに思ってて、みたいな。
それが例えば、中国だと「みんなで力を合わせれば不幸が最小化できるんだから、個人の資産とか考えずにみんなの力集めようぜ！」「でも市場の原理は大事だから、みんなで競うところは残さなきゃダメだよね」みたいな。なので、3つのうちの1つ目が「何のためにやっているのか」というミッションですよね。
けんすう：そうですね、だから本にも書いてあったような「国というアルゴリズム」というのも、アメリカは「自由」がミッションというか、ビジョンがすごくあるので、そこに縛られるし。
尾原：そうです、そうです。
けんすう：中国だと「中央集権で不幸を最小化する」ということですよね。
尾原：そうなんです。
ユーザーに幸せを提供するのか、依存させるのか
尾原：2番目が定義しにくくて、結局「ユーザーのために」というところで。この「ユーザーのために」がややこしいのが、ネットのサービスだとある程度ユーザーが「楽しい」と思ったり「もう1回来たい」と思ったりしないと使われないので。どうしてもユーザーのリピート率を上げることだったり、YouTubeやTikTokみたいなものだったら「接触時間を上げる」ところに重力が発生しやすい。
3番目が、広告課金やコンテンツ課金などのビジネスによって……とはいえ、やっぱり事業会社として儲け続けなきゃいけないし。国だったら、なんとなくGDP成長させなきゃいけないし。上場しちゃうと、なんとなく時価総額を上げ続けなきゃいけないです。
これを僕は「ビジネスモデルの重力」と呼んでるんですけど。「儲けなきゃ」「成長しなきゃ」という重力。この3つの重力があります。それによってアルゴリズムという傾向が決まっちゃう、と個人的に思ってるんですよね。
けんすう：うん、そうですね。依存症の本を最近読んでいて。それを突き詰めると、要は「ユーザーが幸せだからやっている」のか、「依存症にハメている」のかが、フェアネス観点だとけっこう難しいですよね。
尾原：そうですね、難しいですね。だから2番目に言った「ユーザーに使ってもらわなきゃ」というのが、やっぱり「いいね中毒」になりそうにさせてしまったり、たくさんエゴサーチさせてしまったりしますよね。そういう承認欲求や所属欲求だったり、いろんな欲求を使って虜にすることが本当にいいことなのか、というフェアネスですよね。
けんすう：そうですね。とくにTikTokだと、意図的に「100人の壁」「1,000人の壁」みたいな感じでアルゴリズムが出して、バズったりすると承認欲求が満たされるので、どんどん投稿しちゃう、みたいなことをやっていて。そのこと自体はサービスとしては真っ当なんですけれども。それが幸せにつながってるのかどうかが計測できないので、けっこう難しいなと思ってます。
尾原：そうなんですよね。「ユーザーが幸せになる」ということと「企業側がハッピーになる」ことが一緒だったらいいんですけど。ユーザーが幸せになったらTikTokを使わなくなることもあり得るわけで。それをどう捉えるかという話なんですよね。
けんすう：そうですね、まさに。
Instagramがいいね数表示をやめた意義
尾原：やっぱりアメリカなどがラディカルなのは、憲法の前提の中に革命権が入ってて。「俺たち（国家）は、お前ら（国民）の自由を増やすためにがんばるけど、なんか俺たちがおかしくなったらいつでも革命を起こしていいからね」とあります（笑）。憲法の中には入ってないんですけど、憲法を作るに当たった序文の中で明確に言っている、という恐るべき国で。これってある意味、究極のフェアだと思うんですよね。
でも、例えばGoogleが「なにかあったらGoogle壊していいから」って、さすがに言えないし（笑）。やっぱりそこのバランスで、無自覚のうちについついアディクティブ、中毒性にしたくなっちゃうという。ただ一方でそれが行き過ぎると……だから例えば、去年インスタがいいね数を消したじゃないですか。
けんすう：はいはい。
尾原：「ユーザーにとって」と「ビジネスにとって」と、2つあるじゃないですか。これはどう思ったんですか。
けんすう：ユーザーにとってはいいことだなと思っていて。たぶん、SNSってユーザーをハメるのがめちゃくちゃ簡単で。簡単に言うと「覚せい剤作るとみんなハマるよね」ということと同じぐらいのことをできてしまいます。
尾原：そうですね。
けんすう：そこに自制が働いているのは、めちゃくちゃいいなぁとは思いましたね。結局不確実性というか、投稿したら反応が多かったり少なかったりするとか、その反応が数字でわかるとか、いろんな要素が混じってユーザーをハメていて。それを5年ぐらい前からはグロースハックといって、もてはやされたんですけど。
尾原：そうですね。しかも逆にFacebookのグロースハックチームってめちゃくちゃ有名でしたからね。年収3,000万〜4,000万円で、本当の統計学とコンピューターサイエンスとデザインを全部できるような人間がゴリゴリやる、みたいなね。
けんすう：そうですね。結局それに行き着くと、パチンコみたいなものが一番（ハメられる）。
尾原：そうですね、おっしゃるとおりですね。
けんすう：光と音で、ギャンブルでハメるとかできちゃうので。そこはいいんじゃないかな、と思いましたね。
尾原：ただ1個、今回のインスタがやった事例は本当に新しくて。いわゆる今おっしゃったパチンコみたいなのもわかりやすくて、どうしても企業側はユーザーがハマるように、中毒になるようなインセンティブを持っちゃうので。どっちかというと国や業界団体が規制をする話か……。
もう1個あるのは、任天堂みたいに「いや、うちは創業者の哲学で美学があるから、ガチャやんないっスよ」みたいな。子どもに健全であってほしいから、「美学」からそんなことをやらないです。今まではこの2つでしか止まってなかったのが、インスタが後から「いいね」数の表示をやめようと思ったんですよね。これはすごく珍しい事例です。
ミッションやゴールが暴走を招く
けんすう：話は飛ぶんですけれども。
尾原：飛びましょう。
けんすう：「ミッションとかゴールがあると暴走しやすい」という仮説があって。
尾原：あぁ、おもしろい！ なるほど。
けんすう：アメリカとか中国って、国のミッションが超わかりやすいじゃないですか。まさに「自由」とか。
尾原：そうですね、「共に創ろう」とか、そういう感じですね。
けんすう：要は計測可能で成長が見えるので、手段を問わなくなってくると思ってます。
尾原：そうですね。
けんすう：そうすると暴走すると思っていて。日本って国は、国のビジョンとかミッションがないんですよ。
尾原：まったくないよね。
けんすう：なぜなら歴史が長くて、当然そんなこと考えて建国してないので。そういう状態になってるので、なので任天堂的なビジョンとかミッションが強くないからこそ「ここまではちょっとやり過ぎだよね」という自制が働くんじゃないかと思っていて。
尾原：たしかに。実は「任天堂」という名前は、最後は「天」に「任せる」から「任天堂」なんですよね。
けんすう：あぁ、なるほど。
尾原：だから、ものすごいコアなミッションがなくて、「これってお天道様が見たらどう思うかな？」みたいな（笑）。
けんすう：そうですね（笑）。アルゴリズムの世界って、最適化が異常にできるので危ういと思ってたりします。カジノとかでもいろいろ試した結果、やっぱりスロットとかで横が並ぶだけじゃなくて……。
尾原：はいはい、斜めも全部当たるようにしようって、射幸心をどんどん煽るようになりますよね。
けんすう：そうですね。1ドル使って0.6セントとか？ わかんないですけど。
尾原：期待値ですよね。
けんすう：そうですね。そのぐらい当てとくとお客さんは「当たった」と錯覚する、みたいな閾値（いきち）もあるらしくて。そういうことをやり始めると、ドラッグみたいなことができちゃうので、ここの懸念はありますね。
「ある」ものが満たされるとミッションが邪魔になる？
尾原：それはたしかにおもしろい話ですね。
僕が書いた『モチベーション革命』の話じゃないですけど、フロンティアスピリットで「ない」ものを「ある」にする状態のときに、ミッションという、ものすごいけん引力がなかったらイノベーションが起こしにくい。
やっぱりミッションドリブンで力を持って動くこともすごく大事なんだけれども、「ある」ものが満たされてきて、むしろ過剰になってくるタイミングになったときに、もしかしたらミッションが邪魔になるかもしれない……という話ですよね。
けんすう：そうですね。一定の規模以上は恐ろしいことになりそうな気はしてますね。
尾原：でも、それがすごくあって、やっぱりGDPというフィクションもまったく同じで。もともとGDPは、世界を平和にするために、貧しい国を戦争で略奪するんじゃなくて、貧しい国に投資をすると、リターンが返ってくることを可視化するために生んだ数値です。
いつのまにか貧しい国が減ってくると「いや俺が1位だ」「俺が2位だ」を競う指標になっちゃって。それで過剰になりすぎた、みたいな話があって。そこらへんの話ってすごくいいですね、めっちゃおもしろいじゃないですか。ありがとうございます。
……ということで10分を超えてしまったので、いったんYouTubeのほうのレベル1は終わって、レベル2のほうに移りたいと思います。いったんYouTubeのほうは、バイバイ。
