ロボットは社会にとって前向きな役割を果たせます――ただし、私たち自身の偏見をそのまま映し返す存在から解放されればの話です。
私は最近、世界経済フォーラムの Annual Meeting of the New Champions in Dalian, Chinaで、社会を破壊的に変える技術をテーマとするパネルディスカッションを主催しました。学界と産業界の専門家が、健康の改善から環境保護に至るまで、ロボットがどのように善い役割を果たせるかについて、聴衆と意見を交換しました。
ロボットが人間の感情的・社会的ニーズを理解する能力を高めるにつれ、人工知能技術が女性の労働参加を促進できる方法は少なくありません。
男性と女性がオンラインで異なる求人広告を目にする理由
知能機械全般に対する数多くの批判のなかでも、特に際立っていたのは、Googleの推薦アルゴリズムによる求人広告の配信方法でした。カーネギーメロン大学の研究者たちは、このアルゴリズムが 高い地位と高給の仕事を推薦する可能性が高く、 女性よりも男性に対して推薦していたことを明らかにしました。
研究者たちは、検索履歴のない架空のユーザーで、性別のみが異なるアカウントを用いて求人検索を行いました。その結果、Googleが高給の役員職の広告を女性に表示する件数は男性よりも大幅に少ないことが判明しました（318対1852）。同時に、Googleで「CEO」と画像検索すると、女性ではなく男性の画像が表示されます。
推薦エンジンに携わる私たちにとって、これは衝撃であり、警鐘でもありました。「この本を買った人は、こちらの本も買っています」のようなAmazonの推薦や、Googleの検索結果は、集計された集団の行動に基づいています。この事例では、機械学習が人間の利用者が一般的に下す判断と偏見をすべて学習してしまったのです。ユーザーの信用履歴を精査し、返済能力を予測して融資を判断する銀行のように、推薦エンジンは性別や民族を含む利用者の特性を確認し、クリックされる可能性が高いとアルゴリズムが判断する、より適切と考えられる広告を優先して表示します。
しかし、機械によるこうした「ステレオタイプ化」を打ち破る簡単な方法があります。「女性CEO」を検索してから役員職を検索すると、検索履歴にも多様性が表れるため、アルゴリズムはより公平な結果を返すようになります。
アルゴリズムは本質的に性差別的なのでしょうか？
それでは、機械が生み出す性差別と戦う負担が、依然として利用者に課されているように思えます。では、人間の行動の善い面と悪い面の両方から学習するがゆえに、人工知能アルゴリズムは本質的に性差別的なのでしょうか。ジェンダー平等をめぐる闘いにおいて、機械は私たちの味方になるのでしょうか、それとも敵になるのでしょうか。
推薦エンジンによる差別を克服し、職場におけるジェンダー平等を促進する一つの方法は、より多様な利用者で推薦エンジンを学習させ、人々の意図をより的確に読み取れるようにすることです。
年齢、性別、その他いくつかの人口統計的な指標だけを見るのではなく、より高度な機械学習手法を用いて、より詳細な利用者プロフィールやオンライン上の利用者データを分析し、より個別化された推薦を行えるよう学習させることができます。
さらに、人工知能、とりわけ言語処理は、職場における言語の使い方に表れる無意識のジェンダー・バイアスを可視化するのに役立ちます。従業員の感情や企業文化を示すためにも用いることができます。採用や人材検索における多様性を高めるよう設計することさえ可能です。
性差別的な言葉遣いを検出する「スペルチェック」？
多くの組織が多様性の向上に投資していますが、報告書は「ジェンダー配当」の存在を示しています。取締役会や上級管理職に女性がいる組織では、職員の定着率が20%高く、従業員がより一生懸命働く度合いが12%高く、収益性が47%向上しているとされています。
しかし、この投資が確かな成果を生んでいることを、どのように確かめればよいのでしょうか。感情分析は、使われた言葉から人々の感情を読み取る技術であり、従業員が職場についてどのように感じているかを明らかにするのに役立ちます。リーダーシップや昇進について、男性よりも女性の方が否定的に捉えている場合、企業は多様性方針にいっそう注意を払う必要があるでしょう。
報じられたところによれば、 New York Times, ベンジャミン・シュミット教授が収集した自然言語の統計によって、教授に対する学生のオンライン授業評価1,400万件に、無意識のジェンダー・バイアスが見られることが示されました。
この統計は、人々が女性よりも男性に対して好意的に解釈する傾向があり、同じ特質について女性を批判する一方で男性を称賛していることを示しています。例えば、男性教授は「優秀」と評価される一方、同じ資質を持つ女性教授は「偉そう」と見なされます。
この傾向は、職場における女性リーダーへの態度にも同様に見られます。人事評価や昇進の過程では、スペルチェックや文法チェックが語彙や構文上の誤りを指摘するように、評価者の推薦状に含まれるジェンダー・バイアスの表現を検出し、場合によっては強調表示するソフトウェアがあれば役立つでしょう。これは、シュミット教授が示したような統計によって学習させた感情分析技術を用いることで実現可能です。
ロボットが採用面接を行うとき
採用と昇進における重要な段階は、候補者のプロフィールや履歴書をふるいにかけ、最適な人材を見つける検索プロセスです。ここでも、予測分析技術がこのプロセスを公正にする助けになります。
推薦エンジンは、特定の集団に偏見を持つことなく、世界中から潜在的な人材を幅広く探すように設計できます。このようなエンジンは、オンラインプロフィール、出版物、ソーシャルネットワーク、オンラインでの発表資料に至るまで、個人のオンライン上の存在を分析し、自然言語処理技術を用いて特定の職務との適合性を分析することができます。
採用側は、このシステムに多様性の重み付けを組み込むことができます。この最初のプロセス全体を自動化することも可能です。
次に、候補者の人柄やリーダーとしての潜在能力を把握するために、予備面接がしばしば行われます。この目的のためのオンラインテストや調査は数多くあります。人工知能技術は、これを強化するために用いることができます。AIを活用した仮想面接官を導入し、候補者に質問を投げかけ、表情、身振り、ボディランゲージの画像認識、声のトーンの音声認識、そして何より面接の質問に対する回答の自然言語理解から、その反応を評価することができます。
人間の面接官と比べた知能機械の利点の一つは、無限に拡張可能であることです。1日に数百万件の検索要求を処理する検索エンジンのように、仮想面接官はオンラインで利用でき、多くの候補者が同時に利用できます。もう一つの利点は、機械がジェンダー中立的な言葉遣いをするようにプログラムでき、面接プロセスに偏見を持ち込むことを避けられることです。アルゴリズムは、特定の性別に偏らない、事前に選別されたサンプルで学習させることができます。
たとえこうしたインテリジェント・システムが人間の選考委員会に取って代わるものではないとしても、それを支援するために用いるべきだと私は考えます。機械による「検索」と人間による選考プロセスの結果を比較し、能動的学習のプロセスでフィードバックを行うことで、適切な候補者を見極める精度を人間と機械の双方で高めることができれば望ましいでしょう。
女子が教育を受けると、すべての人が恩恵を受ける
女子が十分な教育を受けると社会全体が恩恵を受けることは、よく知られています。カーン・アカデミーのようなオンライン教育プログラムの登場により、遠隔地の女子もますます教育を受けられるようになっています。女性は、出産休暇や数年間の育児休業中も学べるオンライン職業訓練を、望むのであれば受けることもできます。オンライン研修は男女双方に利益をもたらしますが、女性が「すべてを手に入れられるのか」と問われることの多い社会では、最終的にジェンダー・ギャップの解消に役立つでしょう。
人工知能は、オンライン研修をさらにさまざまな方法で改善することができます。自然言語処理と自動音声認識は、多くの学習分野で活用できます。これらの技術に支えられた対話型プログラムや家庭用ロボットは、女性が自宅から指導を受けられるようにすることができます。
応募書類を作成する際に、より適切な語句の選択を提案する文章作成ソフトウェアはすでに存在しています。さらに一歩進めて、意味解析と感情分析を用いれば、就職応募のための小論文作成について助言を提供することもできます。
ロボットによる調理と子守り
女性は依然として、家庭での掃除、料理、育児の大部分を担っています。 昨夏発表された調査では、Economic and Social Research Council (ESRC)によると、英国の女性は、たとえ主な稼ぎ手であっても、家事の少なくとも3分の2を依然として担っていることがわかりました。インドの National Sample Survey Organizationが2011-12年に調査した女性のうち、約39%が農村部で、約50%が都市部で、家事に時間の大半を費やしていました。社会的態度を変える必要がある一方、テクノロジーも女性の時間を解放する助けとなりえます。
スマートキッチンが冷蔵庫の中身を確認し、必要に応じて食材を注文することで、食事を事前に調理することができます。ロボット掃除機は、誰も家にいないときに住まいを掃除できます。オンライン家庭教師システムは、子どもと対話して学習を見守ることができます。ロボットのベビーシッターは、小さな子どもの安全を守る役割を果たす可能性があります。自動運転車は、十分に開発され適切な安全対策が施された段階で、放課後の活動へ子どもを送迎するために利用できます。ロボットによる育児に人の温もりを加えるため、保護者や後見人は、これらのロボットを通じてビデオで子どもと遠隔からやり取りすることができます。
介護ロボットが高齢者に時間どおりに服薬を促し、対話によって話し相手になることも考えられます。人工知能が医療全般にもたらす恩恵は、人々をより健康にし、より良い治療を受けられるようにすることで、病人や高齢者の世話をする多くの女性の負担を軽減する助けとなることです。
Zara the Supergirl
今年の初めに、私の研究室の学生と博士研究員は、音声認識と感情認識の各種モジュールを統合し、「Zara the Supergirl」と呼ぶ共感型機械のプロトタイプを作り始めました。現時点では仮想ロボットであり、オンラインでは漫画のキャラクターとして表現されています。
機械は、リーダーとしての潜在能力に関わる人の性格やその他の特性を理解し、性別にかかわらず最適な候補者を上級管理職や取締役のポジションに適合させることができるでしょうか。介護ロボットは患者の痛みに共感し、苦痛を察知できるでしょうか。機械は、こうした課題に必要な感情的知性を持つことができるでしょうか。Zaraを開発する目的は、自動化されたコーチの可能性を示すことです。
この 動画からわかるように、Zaraのアルゴリズムはコンピューターのウェブカメラで撮影された画像を分析し、利用者の性別と民族を判定します。その後、利用者が話す言語を推測し、母語で数問の質問を投げかけます。最も古い記憶は何ですか。あなたのお母さんについて教えてください。前回の休暇はどうでしたか。女性と犬と木が登場する物語を話してください。このプロセスを通じて、表情、声の音響的特徴、回答内容に基づき、Zaraは共感を模倣する形で応答します。
5分間の会話の後、Zaraは利用者の性格を 16種類の性格タイプの中から推測しようとします。例えば「あなたはビジョナリーのようですね。もっと仕事を任せることを学ぶ必要があります」などです。
Zaraはプロトタイプですが、機械学習アルゴリズムに基づいているため、より多くの人と対話し、より多くのデータを蓄積するにつれて、「より賢く」なっていきます。Zaraをリーダー職の候補者への面接に用い、偏りのないスクリーニングを行うよう訓練することは、十分に考えられます。また、Zaraを患者や高齢者と共感的に会話するよう訓練することも、潜在的には可能です。
より優れた推薦アルゴリズムからサイバー・スーパーガールに至るまで、人工知能技術は、私たち自身の偏見を見極め、乗り越える助けとなる可能性を秘めています。
著者：Pascale Fung、電子・コンピュータ工学教授、香港科技大学
画像：2015年9月8日、中国・北京で開催された2015 Baidu World Conferenceにおいて、来場者がBaiduのロボット「Xiaodu」と話している様子。Baiduが開発した人工知能ロボットのXiaoduは、同社の検索エンジンのデータベースにアクセスでき、音声コマンドに応答できると、Baiduは述べています。REUTERS/Kim Kyung-Hoon
