組織は採用の意思決定にAIを活用し始めているが、デジタル権利の専門家は、アルゴリズムが偏見を温存しかねないと警告する。
女性の権利擁護団体やデジタル分野の専門家は、偏見の解消を目指して適切に設計されたテクノロジーは、女性の足かせとなっている隠れた要因に「光を当てる」ことができると述べる。
品質を重視するテクノロジー企業は、履歴書のスクリーニングや昇給の決定といった判断をAIで回避または見直し、個人に合わせたデータに基づく助言を提供している。
母親だからだろうか。それとも、意欲やリーダーシップの資質が足りないと思われているのだろうか。
ジェンダーに関する固定観念は、今も職場で女性の足かせとなっている。しかし、少数のテック企業は、採用や昇進における偏見を打破し、女性候補者により公平な機会を与える人工知能（AI）システムを開発したと述べる。
雇用主や経済全体にも恩恵がもたらされる可能性がある。
「私たちは今、人工知能のこの局面にいます。偏見を未来に組み込むことも、公平性を組み込むこともできるのです」と、コロラド州に拠点を置くソフトウェア企業Pipeline Equityの最高経営責任者、カティカ・ロイ氏は述べた。
「公平性について話すとき、それを社会問題や、実行すべき正しいこととして語る場合が多いです。確かにそうなのですが、実は大きな経済的機会でもあります。」
組織は採用の意思決定にAIを活用するケースが増えており、デジタル権利の専門家は、次のような懸念を示している。アルゴリズムは偏見を温存しかねない。
Amazonが開発したAI採用ツールは、女性より男性候補者が望ましいと自ら学習したため、廃止せざるを得なかった。
一方、女性の権利擁護団体やデジタル分野の専門家は、偏見を狙って対処するよう適切に設計されたテクノロジーは、女性の足かせとなっている隠れた要因に「光を当てる」ことができると述べた。
「偏見は人間の本性と同じくらい古く、従来の採用慣行にはさまざまな偏見が深く入り込んでいます」と、マサチューセッツ大学アマースト校アイゼンバーグ経営大学院のモニディーパ・タラフダール教授は述べた。
「AIは解決策の一部になり得ると思います。間違いなく。ただし、唯一の解決策にはなり得ないと思います。」
包摂性の高い選択肢
平等を重視するこうしたテクノロジー企業は、履歴書のスクリーニングや昇給の決定といった判断をAIで回避または見直し、個人に合わせたデータに基づく助言を提供している。
2017年創業のスタートアップPipeline Equityが開発したソフトウェアには、人事分野でさまざまな用途がある。人事評価に偏見を含む表現がないか確認することから、採用や昇進に関する助言の提供まで幅広い。
TextioもAIを使って企業の声明文や求人情報を分析し、女性やマイノリティーを疎外するような男性的な語調になっていないかを見極め、より包摂的な選択肢を提案する。
この分野を代表するもう一社、Pymetricsは、履歴書を読むよりも公平に採用候補者を評価できるとして、ゲーム形式の適性評価を提供している。
多様なチームが率いる企業は収益性が高い傾向にあることが研究で明らかになっている。また、職場における女性の存在感や役割を高めれば、各国経済にとって数十億ドル相当の価値をもたらす可能性がある。
「この事業上の根拠については膨大な資料があります。それによって考え方が変わった人もいます」と、世界銀行の民間部門を担う国際金融公社（IFC）でジェンダー・経済包摂グループの責任者を務めるアンリエット・コルブ氏は述べた。
しかし、企業における女性の登用を増やすことから、銀行サービスへのアクセスを広げることまで、世界中で女性の金融包摂を改善するには、まだ多くの取り組みが必要だと、同氏はトムソン・ロイター財団の年次旗艦イベント「トラスト・カンファレンス」で語った。
新型コロナウイルス感染症（COVID-19）は、「シーセッション（女性不況）」を引き起こし、女性が労働力から不均衡に多く押し出された。国際労働機関（ILO）は、ジェンダー格差が拡大し、女性の雇用回復はより遅れる見通しだと明らかにした。
一方、米国では記録的な人数の人々が退職し、「大量退職時代」と呼ばれるなか、企業は欠員の補充に苦慮している。
「企業には埋められない職務があまりにも多くあります。空席のままでは仕事をしてもらえません」と、Textioの最高経営責任者、キーラン・スナイダー氏は述べた。
「何らかの成功を収めるには、優秀な人材を採用する必要があります。」
支援か、監視か？
女性の権利擁護者や研究者は、AIがより公平な職場を実現する万能薬にはならないと述べ、この技術は問題を解決する一方で、同じくらい多くの問題を引き起こす可能性があると警告した。
テクノロジーが偏りのない事実や客観性を提供するという考えは幻想だと、ハーバード大学計算社会研究センターの博士研究員、マニッシュ・ラガヴァン氏は述べた。
「どのAIも、何らかの形でデータから学ばなければなりません。過去の判断から学ぶ必要があるのです」と同氏は述べた。
「テクノロジーを使って自分自身の無意識の偏見を和らげることが不可能だと言っているわけではありません。ただ、非常に慎重に設計する必要があると思います。正直なところ、それができる段階に私たちがまだ達しているとは思えません。」
商用アルゴリズムの大半がどのように機能するかについて透明性が欠けているため、その性能を精査するのは難しいと同氏は付け加えた。
AIが意図せず職場での偏見につながる仕組みを分析する研究プロジェクトを率いるタラフダール氏は、効果的な解決策は採用における重要な判断を特定するだけでなく、職場全体の文化にも目を向けなければならないと述べた。
上司は、従業員に関する情報をどこまで収集できるかについても慎重に考えるべきだ。支援のための行動が監視に変わるおそれがあると同氏は付け加えた。
変化を起こす本当の鍵は、誤解に異議を唱えられるような、偏見についての率直で難しい対話を始めることだと、女性の職場での権利を擁護する団体Catalystのディレクター、アリソン・ジマーマン氏は述べた。
しかし、AI技術はそうした先入観を覆し、機会を切り開く助けになるとも同氏は付け加えた。性別や年齢が採用担当者に分からないようにする技術を使って選ばれ、面接に進んだ若い女性の事例を挙げた。
「彼女が面接に現れると、採用担当者たちは思わず笑い出しました。失礼な笑い方ではありません。彼女がこんなに若い女性だったことに、ひどく驚いていたのです」と同氏は述べた。
「彼らの目が開かれたのです。中年男性が来ると思っていたのですから……彼女は面接を受け、採用されました。彼女は、非常に前向きな経験だったと私に話してくれました。」
