“同じ相手にしつこく営業すると評価が下がるかも…”と勝手に自己規制　ブラックボックス化した“AI管理”が生む誤解

“アルゴリズムに目をつけられたくない”という不安に基づく自己規制

伊達洋駆氏：人というのは、ただ従うというわけではなく、規制を強めればなんとか適応しようとする行動を取る。そういう意味でも、人間のしたたかさというのは、非常に興味深いところです。

確かに、人間はアルゴリズムに対して働きかけるような行動を取ります。ただ、俯瞰して見ると、働く人がいくらアルゴリズムをうまく扱っているように見えても、実は「逆に操られている」といったケースも、これまでの研究の中で指摘されているんですね。

例えば、オンラインプラットフォームの利用者に関する研究を1つ紹介したいと思います。アルゴリズムが不透明、つまりブラックボックス化されていると、何をすれば正解なのか、どうすれば評価されるのかが、人間にとっては見えにくくなってしまう。

そうした状況では、人は過剰に自己規制をかける可能性があるとされています。「この行動を取ったら不利になるかもしれない」と、実際には誰からも言われていないのに、自分でそう思い込んでしまうわけです。

例えば「営業で接触しすぎるとスパム扱いされるかもしれない」とか、「低評価をつけそうな顧客には関わらないほうがいいかもしれない」といった発想がそれにあたります。

これはプラットフォーム側から何かを直接指示されているわけではありません。それでも、人は自分の行動に自ら制限をかけるようになる。つまり、「アルゴリズムに目をつけられたら不利になるかもしれない」と警戒して、先回りして行動を変えてしまうわけですね。

この現象が厄介なのは、評価の基準やペナルティの条件がきちんと開示されていないことです。そうなると、人は最悪の事態や漠然とした不安に基づいて行動するようになってしまう。

結果的に、「自分で自分の行動の幅を狭める」というような現象が起きてくるんですね。言い換えれば、自分で身をかがめるような行動を取ってしまっているとも言えます。

そうなると、アルゴリズム管理の圧力はより強まってしまうことになります。もともとはそこまで強い制約をかける意図がなかったとしても、人々が自主的に規制をかけてしまうことで、結果的に圧力が強化されるようなかたちになってしまう。

アルゴリズム管理を進めていく上で、ここはひとつ注意すべきポイントです。企業としては「そこまで自由を奪うつもりはなかった」と思っていたとしても、実際には、働く人の側で自発的に自由を手放してしまう。そういった“創意工夫”が逆方向に働く可能性もあるわけです。

“自分で選んだつもり”が実はAIに選ばされていた

また、別の観点から考えさせられる知見があります。それは、アルゴリズム管理のもとでは、短い間隔で選択を繰り返すことになるという点です。

例えば「この仕事、受けますか？　受けませんか？」というように、非常に短いスパンで判断を迫られる場面が増えてくる。アプリが次々と選択肢を提示してきて、その都度、受けるかどうかを判断していく。

こうした選択を繰り返していくうちに、人はある意味で、自律性を錯覚してしまうんですね。「自分はちゃんと選んでいる」「自律的に判断している」と思ってしまう。でも実際には、その選択肢自体がアルゴリズムによってあらかじめ限定されているわけです。極端なケースで言えば、「受けるか断るか」の二択しかないというような状況です。

その選択を何回繰り返しても、それが本当に自律的な行動かどうか、本当の意味で自由な選択なのかは、非常に難しい問いになってくる。この点は、言葉にするのもなかなか難しいところだと思います。

ただし、そういった状況でも頻繁に選択ができると、働く人は「自分は自律的に働けている」と、ある意味で錯覚してしまう可能性があるわけですね。言ってみれば、限られた選択肢の中で自己決定を繰り返している状態です。そしてこの構造自体が、アルゴリズム管理のある種の巧みさを示しているのではないかと思います。

働く人からすると、「自分で何度も選んでいる」という実感があるのですが、実際にはアルゴリズムが設定した枠の中で、ある程度制限されたかたちで選択を繰り返しているだけかもしれない。

こうしたアルゴリズムを巡る状況には、自分で自分の自由を制限してしまったり、もともと選択肢自体が極端に限られていたりするという、少しややこしい現象が起きかねません。

特に、ブラックボックス化されているという点は大きなポイントです。見えていない部分があるからこそ、人は不安を感じ、自己規制に走ったり、非常にシンプルな選択肢だけが提示されて、それに従うしかなくなるといった状況が生まれる。

その結果、「自由度が高い」と思われている働き方の裏側で、実は働く人自身が目に見えない壁を作ってしまっている、自分自身を取り囲む構造を強化してしまっている、という指摘もあるほどです。

今後、企業がアルゴリズム管理をさまざまな場面で導入していくことが予想されますが、その際には、働く人の自己規制が過剰に誘発されていないか、また、選択肢を極端に狭めるような仕組みになっていないかといった点に注意を払う必要があると思います。

アルゴリズム管理は“正社員の自分には関係ない”は間違っている

ここまで、アルゴリズム管理についてさまざまな観点からお話ししてきました。「アルゴリズム管理」と聞くと、一番イメージしやすいのは、やはりギグワーカーだと思います。

私も「働く人」という言い方をしていますが、ここにはいわゆる「労働者性」をめぐる議論が関係してきます。プラットフォームワーカーが法的に労働者に該当するのかどうかについては、現在も議論が進められているところであり、ここで断言できるものではありません。

ただし、「それって正社員ではない働き方の話でしょ」「自分には関係ない話だ」と感じる方も、もしかしたら世の中にはいるかもしれません。今日この場に来てくださっているみなさんは、そうではないと思いますが。

しかし、アルゴリズム管理の導入がこれから広がっていくというのは、非常に想像しやすい未来の話です。正社員であっても、有期雇用の人であっても、職種や業種を問わず、さまざまな場面でアルゴリズム管理が部分的に導入されていくことは、ほぼ間違いないと考えられます。

その理由として考えられるのが、企業と利用者の双方にメリットがあるからなんですね。むしろ、やらない理由がないと言えるくらいです。

まず企業側にとってのメリットですが、アルゴリズム管理を導入することで、人的コストの削減が可能になります。つまり、管理にかかるコストが減る。直接管理したり、指示を出したり、評価したりといった業務にかかる手間が省けるわけです。

このあたりは法律も関係してきますので、私は法律家ではないため、どこまでが許容されるのかという法的な判断はできませんが、議論がある領域であることは確かです。ただ、仮にそれが可能であれば、人件費を抑えられるというのが1つ目の大きなメリットです。

2つ目のメリットは、データの蓄積です。膨大なデータを集めて分析できるようになると、意思決定の質が高まり、業務の効率化も進みます。例えば、人員配置の最適化や在庫管理の効率化などが可能になり、結果的に企業としての収益も向上していく。そういった、データ活用を通じた利益が期待できるわけです。

企業がアルゴリズム管理の導入で得られるメリット

さらに、利用者にとってもメリットがあります。つまり、消費者側です。アルゴリズム管理に対して不満を持っている人もいるかもしれませんが、とはいえ、非常に便利ですよね。

例えば配車サービスであれば、リアルタイムで車両の位置がわかり、到着時刻も事前に把握できる。料金も事前に提示されているので、不安なく利用できるわけです。料理の配達にしても、注文してから今どんな状態にあるのかを追跡できます。使ったことがある方なら、この便利さは実感されていると思います。

つまり、消費者にとっては利便性が非常に高い。企業にとっても、利用者にとってもメリットがあるとなると、これを導入しない理由のほうが見つけにくい状況になってきているわけです。

そういった意味でも、今後アルゴリズム管理はさまざまな場面で導入されていくことが想像されます。すでに小売業や製造業、医療や教育などの分野でも少しずつ導入が進んでいます。

そうした中で、本日お話ししたようなアルゴリズム管理をめぐる駆け引きや、さまざまな影響についても踏まえながら、導入を検討していく必要があるのではないかと思います。

では最後に、今日の話を少し整理して締めくくりたいと思います。

私からは、今後ますます広がっていくと考えられるアルゴリズム管理について、それがもたらす変化をいろいろな観点からお伝えしてきました。効率化や最適化といったポジティブな側面がある一方で、働く人の自律性や健康、意欲といった点では、課題が浮かび上がる場面も見えてきています。

冒頭でもお伝えした通り、私のスタンスとしては、アルゴリズム管理を完全に「良いもの」や「悪いもの」と位置づけることはしていません。それをどのように設計し、どのように運用していくかによって、結果として生じる影響は大きく変わると考えています。

テクノロジーを活用した働き方が今後ますます広がっていく中で、人間の尊厳や主体性をいかに損なうことなく、うまく共存していけるのか。これは非常に大きなテーマの1つであり、当然ながらアルゴリズム管理という領域においても、避けて通れない課題だと思います。