私たちは今、経済生活の多くの分野で女性の代表性が不足している時代に生きているだけでなく、技術によってその状況がさらに悪化する可能性もあります。女性は米国と欧州において取締役ポストのわずか19%しか占めていません。取締役会におけるこのジェンダー・ギャップは、女性が20年以上にわたり、平均して男性より高い教育資格を取得しているにもかかわらず続いています。多くのOECD加盟国において。その主な理由は社会的偏見です。
現在、機械の学習に用いられているデータはしばしば偏っており、この偏りが人工知能によってさらに強化される寸前の状況にあります。
AIの急速な導入に伴い、この偏ったデータは機械による予測に影響を及ぼすことになります。人間の判断に関するデータセットには、必然的に偏りが含まれます。これには採用の判断、学生の試験の採点、医療診断、融資の承認などが含まれる可能性があります。実際、テキスト、画像、音声で表現されるものはすべて情報処理を必要とし、これは文化、ジェンダー、人種による偏見の影響を受けることになります。
AIの活用事例
機械学習は、AIのサブ分野であり、テキスト、画像、音声のいずれの形式であれ、データのセットをコンピュータに与え、そのデータに分類子を加えることで成り立ちます。例えば、オフィスで働く女性の画像をコンピュータに見せ、それに「女性のオフィスワーカー」というラベルを付けることが挙げられます。
時間をかけて多数の画像を学習させることで、コンピュータは類似した画像を認識し、それらをオフィスで働く女性と関連付けられるようになります。さらに時間が経ち、アルゴリズムが加わると、コンピュータは求職者のスクリーニング（人間に代わって履歴書を審査すること）、保険の引受け、融資の承認などについて予測を行うことができるようになります。
金融業界は、AIシステムの活用においてすでに先進的です。例えば、クレジットカードの発行や少額融資の付与に先立ち、信用リスクを評価するためにAIを用いています。その課題は、支払いを滞納する可能性のある顧客を排除するために顧客を選別することです。否認された顧客のデータを用い、それを一連のルールと関連付けると、容易に偏りが生じ得ます。そうしたルールの一例として、「顧客が独身女性である場合、その申請を承認しない」というものが考えられます。
さらに、キャリア・プラットフォームのLinkedInでは、例えば、女性による検索では高給の求人が男性による検索ほど頻繁に表示されないという問題が生じていました男性による検索ほど。これはアルゴリズムの記述方法に起因するものでした。これらの高給の求人に関するサイトの求人検索機能の初期利用者は圧倒的に男性であったため、結果として、これらの求人は男性に提示されることになり、女性に対する偏見を単に再強化する形となりました。ある研究でも、同様の問題がGoogleにおいても確認されています。
別の研究では、画像認識ソフトウェアの学習に用いられる画像が、ジェンダーの偏見を増幅させることが示されています。研究目的で使用される2つの大規模な画像コレクション（うち1つはMicrosoftとFacebookが支援するもの）では、スポーツや料理といった日常の場面の写真に、予測可能なジェンダーの偏りが見られることがわかりました。買い物や洗濯の画像は女性と結び付けられ、コーチングや射撃の画像は男性と結び付けられていました。写真セットが全般的に女性を家事と関連付けている場合、それらの写真とそのラベルを学習したソフトウェアは、さらに強い関連付けを生み出すことになります。
偏りの検証
データを用いた機械の学習は、差別的な予測行動につながらない限り問題はありません。しかし、データの利用が人間の判断の代替にまで広がるにつれ、問題となります。そのため、こうしたブラックボックスが生み出す根底にある偏りを理解する必要があります。
偏りを検証する方法の一つは、システムにストレステストを行うことです。これは、コンピュータ科学者のAnupam Dattaがプログラムを設計したことで実証されています。このプログラムは、AIが新入社員の採用において偏りを示すかどうかを検証するものです。
機械学習は、スキルや学歴などのさまざまな基準に基づいて候補者を事前選抜するために用いることができます。これにより、候補者がその職務にどの程度適しているかを示すスコアが算出されます。引越し会社の候補者選抜プログラムにおいて、Dattaのプログラムは、応募書類に記載された性別と申告された持ち上げ可能な重量をランダムに変更しました。面接に事前選抜された女性の数に変化がなければ、採用プロセスを決定しているのは応募者の性別ではないと判断されます。
この事例が示すように、偏りを取り除くことは可能です。しかし、そのためには労力と費用がかかり、確実に実施されるとは限りません。実際、AIが偏りを増幅させるため、短期的には偏りが増加する可能性の方が高いと考えられます。
長期的に見ると、人工知能によって、状況によっては人間が機械に置き換えられることになったとしても、女性の高い感情知能はこれまで以上に価値を持つようになるでしょう。人間の行動を機械よりも深く理解する役割の必要性は一層高まります。こうした役割には、社会的文脈の理解、共感、思いやりが求められ、まさにこの点において、高い感情知能を持つ人々が力を発揮することになります。したがって、偏りは短期的には増加する可能性が高いものの、長期的にはジェンダー平等が実現する可能性があります。
