迅速かつ大量に採用を進めようとしている企業は、履歴書スクリーニングプログラムなどのAI技術に頼りつつある。
慎重に使わなければ、アルゴリズムは、パンデミックによって既に拡大している性別、年齢、人種に基づく不平等を増幅させかねない。
採用の判断にAIを用いる雇用主は、自社が何を購入しているのか、そしてそれが採用の判断にどのような影響を与えうるのかを正確に理解しなければならない。
失業率が大恐慌以来の水準に達した一年を経て、大規模な再雇用の時代が到来しつつあり、AIがその中で重要な役割を果たす可能性が高い。特に、迅速かつ大量の採用を必要とする雇用主はAI駆動型技術に頼り始めている、例えば履歴書スクリーニングプログラム、自動化された面接、そしてモバイル採用アプリなどを活用して人材を再構築している。新型コロナウイルス感染症のパンデミックによって職を失った数百万人の従業員にとって、これらの技術は職場への早期復帰を意味しうる。また、パンデミックによって閉店を余儀なくされた企業にとって、これらの技術は収益性を回復するための効率的な道筋となりうる。
しかし、採用技術を偏りのない形で設計・導入することは、通常の経済状況下でも困難な課題であり、新型コロナウイルス禍の経済は決して通常とは言えない。雇用主がこれらの技術を慎重に使用しなければ、パンデミックが労働力にもたらした人口構成上の歪みは、今後も長く残り続けかねない。
多くの研究、例えば世界経済フォーラムの「2020年 仕事の未来」報告書を含む研究は、パンデミックが世界の職場における不平等を拡大させてきた実態を明らかにしている。例えば、パンデミックの初期段階では、世界中で女性の失業率が男性より高かった。また、若年層の失業率は、年齢の高い労働者よりも一貫して高い状態が続いている。米国では、労働省の調査により、有色人種がパンデミックから不均衡に大きな影響を受けてきたことが示されている。実際、アフリカ系米国人とラテン系米国人の失業率は、白人の失業率を一貫して数ポイント上回っており、米国人が記録的な規模で労働市場に復帰し始めた今も、この傾向は続いている。
AIは採用における偏りを解消する可能性を持つ一方で、慎重に使用されなければ、不平等を指数関数的に増幅させることもありうる。これはAIの仕組みによるものである。アルゴリズムは、限られたデータセットの情報を相関的に分析し、求職者について予測を行う。アルゴリズムの予測の正確さは、それが依拠するデータセットの質に左右される。アルゴリズムの学習データが雇用主の現在の従業員で構成されている場合、単に現状を再現してしまうおそれがある。現在の従業員が、ある人種、性別、または年齢層の従業員で大半を占めている場合、採用アルゴリズムが、それらの特徴を共有しない応募者を自動的に除外してしまう可能性があるため、これは問題となりうる。
アルゴリズムによる採用が失敗に終わった事例は広く報じられており、AIが統計的な偏りを反映させるだけでなく、増幅させることもあることを示している。例えば数年前、アマゾンは履歴書スクリーニングプログラムを試験的に導入した。このプログラムの学習データは、同社の現在の従業員の履歴書と、過去10年間に同社へ提出された履歴書で構成されていた。機械学習を用いて、プログラムはデータセット内のパターンを特定し、そのパターンに基づいて新たな応募者を履歴書で評価できるようになった。しかし、データセット内の履歴書の大半が男性のものであったため、プログラムは、応募者が女性であることを示す語の組み合わせを含む履歴書を、自動的に低く評価するようになった。
端的に言えば、偏った入力からは偏った出力が生まれるということであり、雇用主がパンデミック後の労働力を構築しようとする中で、これは特に問題となりうる。米国では、新型コロナウイルス禍の労働力においてアフリカ系米国人、ラテン系米国人、アジア系米国人の割合が少なくなっている。したがって、採用プログラムが人種を、今回の例で性別を扱ったように扱った場合、少数派の人々は、本来は資格を満たしているにもかかわらず、雇用機会から除外されかねない。これは、私の機関である雇用機会均等委員会が施行する法律の下で、米国の雇用主の法的責任を問われることにもつながりうる。
米国法の下では、雇用主は禁止された採用慣行を行うために、意図的な差別を行う必要はない。表面上は中立的な採用方針であっても、特定の集団に対して差別的な影響を及ぼす場合には、連邦法に違反する可能性がある。したがって、採用の判断にAIを用いる雇用主は、その技術がどのように機能するかを理解することが不可欠である。雇用主はベンダーに対し、学習データの堅牢性、偏りの緩和策、そして差別的な影響を生じさせる可能性について確認すべきである。要するに、自社が何を購入しているのか、そしてそれがどのように機能するのかを正確に理解すべきである。「設定して放置する」というアプローチでは、到底十分とは言えない。
歴史的に見ると、景気後退は加速させてきた企業が自動化へ投資するペースを。新型コロナウイルスによる景気後退も例外ではない。パンデミックは、人々の働き方だけでなく、企業の採用方法も変えてしまった。AIを活用した採用プログラムは、新型コロナウイルスからの世界的な回復において、価値ある役割を果たす可能性を秘めている。米国のすべての労働者の公民権を保護する責務を負う立場として、私はAIがその可能性に届かないことがないよう、尽力する決意である。
