従業員の採用と定着は、雇用主にとって絶えず課題となっています。職場でのビッグデータ活用を支持する人々は、いま、それによって状況を変えられると主張しています。
私たちは、予測に基づく選考という新たな時代に入りつつあり、そこでは非常に意外な結果が生まれています。しかし、こうした新しい意思決定の形と、それがもたらす結果は、差別禁止法やプライバシー法の根幹そのものに疑問を投げかけるおそれがあります。
何が新しいのでしょうか？
誰もが一度は仕事に応募したことがあるでしょう。応募書類に記入し、あちこちに少しばかり好印象を与える表現を加えます。それを提出します。そして、うまくいくよう祈りながら、面接に呼ばれるのを待ちます。
次に、自分が適任かどうかを調べられます。適任であれば、採用されます。これはシンプルで、長年続いてきた慣行です。
なぜ採用されたのか、私たちにはよく分かります。「適切な」大学に通っていた。GPAが高かった。信頼して任せられる人材だと示した。
また、雇用主が人種、性別、性的指向を理由に採用を決めることはないと分かっています。それは法律違反です。
では、GPAを基準に選ばれなかったとしたら？通った「適切な」大学が理由ではなかったとしたら？応募書類を基準に選ばれたのですらなかったとしたら？選考を決めたのは応募書類ではなく、 応募書類のアップロードに使ったブラウザーだったとしたら？
職場における ビッグデータの、理解に戸惑う可能性のある新たな世界へようこそ。ここでは、従来の人材選考のプロセスが覆され、アルゴリズムに基づくデータ主導の意思決定が当たり前になっています。そして、 ますます多様な種類の情報を収集することが求められる世界です。そこには、私たちの業務活動のメタデータやソーシャルメディアの投稿内容、そして少しでも（あるいはまったく）関係がありそうなあらゆる情報が含まれます。
これらは、すべてがまったく新しいというわけではありません。マイケル・ルイスの著書『マネー・ボール』は、ビリー・ビーンのデータ主導の探求がもたらした価値と、彼が率いていた野球チームへの劇的な影響を示しました。
しかし、ビーンのデータ主導の探求はいま、予測に基づく探求に置き換わりつつあり、かなり異例な結果を生んでいます。次の例を考えてみてください。
創造性がある一方で好奇心が強すぎず、ソーシャルネットワークの会員が1つ以上4つ以下の候補者は、 ゼロックスでカスタマーケア担当者として採用される可能性が高いとされています。特に、オフィスの近くに住み、信頼できる交通手段を利用できる場合です。
オープンソースのコードを書いたことが一度もないソフトウェアプログラマーでも、適切なオンラインプロフィールがあり、日本のマンガ関連サイトに関心があれば、オープンソースのプログラミング職に採用されています。
さらに、ある特定の ツイートやLinkedInの投稿に含まれる単語の組み合わせ も、優れたソフトウェアプログラマー候補者を見極める信頼できる指標になり得ます。
では、何が問題なのでしょうか？
こうした新たな意思決定のプロセスと、そこから生まれる結果は、差別禁止法や情報プライバシー法という法的枠組みに重大な問題を引き起こす可能性があります。これらの法律はいずれも1960年代と1970年代に制定されたもので、職場におけるビッグデータがもたらす課題への対処には適していないかもしれません。
まず、差別禁止法から考えてみましょう。差別禁止法は、 特定の社会的・身体的属性を理由とする差別を禁じています。人種、性別、性的指向、障害などです。こうした属性を理由に従業員を採用したり不採用にしたりすべきではないことは、いまでは明白に思えます。そのような理由で判断するのは間違いだと、私たちは直感的に分かっています。
職場におけるビッグデータの問題は、差別とデータ分析から生じる不平等との結び付きを示すことが、しばしば不可能な点です。従業員の選考は、直感では理解しにくいさまざまな属性に基づいて行われています。応募書類のアップロードに使ったブラウザー、日本のマンガへの「いいね」、さらにはツイートで使う言葉までです。そのため、ビッグデータの手法は、職場での差別という概念そのものを捉え直すことになります。
保護対象の属性とビッグデータを用いた差別的慣行とのつながりを立証することは、証拠面で乗り越えがたい難題となる可能性が高いでしょう。禁止対象の属性が予測プロセスの要因になっているとしても、差別的な要因が存在したことや、それがどのように考慮されたかを、予測に基づく意思決定プロセスで証明するのはほぼ不可能です。こうしたプロセスでは、複雑なアルゴリズム計算を用いて何百万もの判断が行われますが、労働者にはその情報へのアクセスが与えられず、 そもそも処理が行われていることすら知らされません。
ビッグデータは情報プライバシー法にも重大な課題をもたらします。ビッグデータの根底にある論理は、あらゆるものを収集し、永久に保存することです。直感では捉えにくいものを探すには、それ以外にありません。 あらゆる情報が、いつでも関連する可能性があります。
したがって、あらゆる情報は個人を特定するために使われる可能性があるため、個人情報となり得ます。しかし、情報プライバシー法は、すべての情報を個人情報に分類して保護すべきだという考えを想定して作られたものではありません。
職場におけるビッグデータは、差別禁止法や情報プライバシー法という既存の法的枠組みに重大な課題を突きつける可能性があります。本当の危険は、相関に基づく予測が正しいと、疑問も持たずに受け入れるようになっていくことです。そうなると、新たな形の差別、すなわち 情報構造による差別を生み出す危険があります。そこでは、差別や偏見のパターンが情報インフラに組み込まれていきます。
その段階では、ビッグデータの危険性がその利点を上回り、私たち全員に悪影響を及ぼす可能性があります。私たちは、求めている仕事に就くための直感では捉えにくい属性を、むなしく探し続けることになるかもしれません。それは、決して自分では制御できないものなのです。
以下との共同掲載： The Conversation
著者：マーク・バードンはクイーンズランド大学の講師。ポール・ハーパーはクイーンズランド大学法学部の講師。
画像：2013年2月28日、ワルシャワでコンピューターのキーボードを打つ男性。REUTERS/Kacper Pempel。
