採用における偏見を減らすために、AIツールが活用されている。
職務記述書の最適化に役立つ機械学習ツールから、公平性などの特性を評価するAI搭載の心理アセスメントまである。
しかし、アルゴリズムの学習に使われるデータによって、AIには本質的な偏りが生じる。
企業にAI採用ツールを販売するソフトウェア企業が数十社も登場し、顧客企業の採用プロセスから偏見をなくすと約束している。宣伝資料やプレスリリースでは、人間の採用担当者はどうしようもなく偏っている一方、機械は客観的だと主張し、AIを活用した採用によって企業と求職者の双方にメリットがあるとしている。
もちろん、話はそれほど単純ではない。AIアルゴリズムは本質的に客観的というわけではなく、採用ソフトウェアは新たな偏見や差別の層を生み出す可能性がある。その結果、適格な求職者が除外され、企業は悪評にさらされる。
しかし、企業がAIを慎重に活用し、AIベンダーの商業的な主張を適度に懐疑的に受け止めれば、アルゴリズムを使って採用時の偏見を減らす方法はある。
AI採用ツールを販売している企業は？
採用プロセスのあらゆる段階にAIがある。Textioは機械学習を使い、採用担当者が職務記述書を最適化できるよう支援する。Facebook、LinkedIn、そしてZipRecruiterは、自社アルゴリズムの推奨に基づいて、求人情報を応募の可能性が高い人々に表示する。
応募が集まると、Ideal、CVViZ、Skillate、そしてSniper AIなどのAIベンダーが、履歴書を審査して有望な候補者を見つけ出すスキャナーを販売している。候補者を面接に呼んだ後は、HireVue、Modern Hire、そしてHarqenが、会話をアルゴリズムで分析し、どの応募者が職務で最も高い成果を上げるか予測できるとうたっている。
また、安定性、寛大さ、公平性などの特性を評価する、AI搭載の心理アセスメントを提供するベンダーもある。Humanticは、応募書類やオンラインプロフィールのテキストを幅広く収集し、応募者を分析する。Pymetricsは、一連の簡単なゲームを通じて同じことができるとうたっている。
AI採用ツールはどのように機能するのか？
採用向けAIアプリケーション全般で最も重要な問いは、どのようなデータで学習させているかだ。機械学習アルゴリズムの性能は、入力される情報の質に左右される。
ほとんどのAI採用ツールは、現職の従業員から学習データを集める。たとえば履歴書スキャナーを学習させるため、企業は現職従業員の履歴書を集め、売上高や年次評価などの業績データと照合する。こうしたデータセットによって、アルゴリズムは企業の優秀な従業員の履歴書に最も似た履歴書を特定する方法を学ぶ。
もちろん、この方法では既存の従業員とよく似た候補者が選ばれやすく、多くの企業が乗り越えようとしている偏見を事実上再現してしまう。
「偏りのないデータなど存在しないため、AIには本質的に偏りがあります」と、ボストン・コンサルティング・グループ（BCG）の北米AI事業を共同で率いるシャービン・ホダバンデ氏は述べた。同氏によると、採用ではこの課題がさらに顕著になる。利用可能なデータが非常に限られているからだ。企業が採用する候補者の数には限りがあり、その人が優秀な従業員になるかどうかが分かるまでには何年もかかる。
AIベンダーは、学習データに含まれる偏見を克服するため、さまざまな回避策を用いている。採用アルゴリズムを研究してきたコーネル大学の博士課程候補者、マニッシュ・ラガヴァン氏によると、多くのベンダーはアルゴリズムを米国の「五分の四ルール」に準拠するよう設計している。これは米国の法原則で、ある属性集団の応募者が、他のいずれの集団の応募者と比べても少なくとも80％の割合で選考されなければならないと定めている。そのため、企業を法的責任から守る目的で、たとえば男性と女性の候補者を同数推薦するよう採用AIをプログラムすることがある。
しかしラガヴァン氏は、だからといってアルゴリズムがあらゆる属性集団に対して同じように機能するわけではないと述べた。学習データの大半が男性従業員のものなら、AIは、高校時代にアメリカンフットボールをしていたことが履歴書にある、あるいは推薦状で「ロックスター」と評されるといった特性を成功と結びつけて学ぶ可能性がある（この表現は男性を指すことが多い）。
「そうした特徴がいくつもあると、成績上位の男性の予測には非常に優れていても、成績上位の女性を見極めるのは不得手なツールになりかねません」とラガヴァン氏は説明した。その後、企業が応募者の中から最も適格な男性10人と、女性の無作為抽出10人を面接した場合、採用慣行は表面上は偏りがないように見えるだろう。しかし、それでも職を得る可能性は男性の方が高い。
AI搭載の採用ツールが裏目に出た事例は？
Amazonは、女性に不利な偏りがあると2018年に大々的に明らかになったAI履歴書スキャナーを開発したことで悪名高い。採用AIの「聖杯」を目指して設計されたこのツールは、「女性」という単語（女性向けスポーツやクラブなど）を含む履歴書を低く評価し、関連する技能や経験のない候補者を推薦する悪い傾向もあった。
HireVueは、候補者の顔の動き、言葉遣い、声の調子を分析する面接分析AIをめぐって厳しい批判を浴びた。ニューヨーク大学のAI Now Instituteに所属する倫理監視団体は、ヒルトンやユニリーバなど、このソフトウェアを使用した企業を挙げたワシントン・ポストの記事で、同ツールを「疑似科学」「差別を正当化する免許」と呼んだ。反発が広がる中、米連邦取引委員会（FTC）はHireVueに対する正式な苦情を受理し、イリノイ州は法律を可決し、同様のAIツールの使用を企業に開示するよう義務づけた。
こうした事例は否定的な報道を招いたが、マッキンゼーのテクノロジーコンサルタント、マイケル・チュイ氏は、採用プロセスへのAI導入を考える企業にとって、悪評が主な懸念事項であってはならないと述べた。「最大のリスクは評判へのリスクではありません」と同氏は言う。「最も適格な候補者を採用できないことです」。
同じ失敗を避けるには？
BCGのホダバンデ氏によると、最も重要な教訓は、企業はAIの推奨に決して盲目的に従わず、人間の採用担当者が意思決定の主導権を保つべきだということだ。「『採用すべき人はこの人です』と告げるアルゴリズムを、誰も信頼すべきではありません」と同氏は述べた。
その代わりに、ホダバンデ氏はこの関係を逆転させることを提案する。AIに最適な候補者を見つけさせ、人間の採用担当者がその判断を追認するのではなく、企業は自社の採用慣行を監査するためにAIを使うべきだ。採用に理想的なAIなら、膨大な採用データを精査し、次に採用すべき人を予測するのではなく、過去に誰が成功してきた傾向にあるかを示す。
「優れたAIアルゴリズムの役割の一つは、どこに偏見があるかを教えてくれることです。結果を見て、自分が気づかないうちに、特定の属性を不当かつ無責任に、あるいは非倫理的に優遇していたと気づくでしょう」とホダバンデ氏は述べた。「そこで人間が介入し、そうした偏見を積極的に取り除き、次の採用でどの属性に注目すべきかを判断する必要があります」。
企業は、使用するアルゴリズムの監査にも賢く取り組むべきだ。コーネル大学の研究者ラガヴァン氏によると、ほとんどのAIベンダーは顧客にのみアルゴリズムの内部構造を開示する。「証拠を示されても、ベンダーの主張を評価できる能力が必ずしも備わっていない顧客は多いのです」と同氏は述べた。
社内にデータサイエンティストがいる購入候補企業なら、内部を詳しく調べ、実際に試してみることができる。そうでない企業については、ラガヴァン氏の研究が、いくつかの一般的な注意点を示している。第一に、AIシステムが従業員の業績と顔、声、行動との間に見いだす相関関係は、常に信頼できるとは限らず、意味を理解できるとも限らない。
第二に、応募者の心理を読み取れるとうたうアルゴリズムに求められる統計上の基準は、かなり低い。見いだす相関関係は、平均すれば無作為な結果を少し上回る程度でよい。特定の個人にも当てはまるかどうかは、ほぼ運任せだ。採用担当者に必要な最先端ツールが、直感であることもある。
