「すみません、それは分かりません」。Alexa、Cortana、さらには公共交通機関の自動アナウンスにも、共通点が一つある。女性の声、または女性のアバターだ。
私は1990年代初頭の第一世代のプロジェクト以来、対話システムに取り組んできた。その दशकの終わりまでには、米国の多くのコールセンターで、ロボットの「アシスタント」が電話に応対し、「どのようなご用件でしょうか」と明るく顧客に挨拶して、航空券の予約や映画のチケット購入など、さまざまな依頼に対応していた。
私は、人間の感情を読み取るとともに、情報を尋ねることのできる対話システム「共感する機械」という概念を提唱した。2015年、私と学生たちは、世界経済フォーラムのデモンストレーションで、対話型システムに関する研究を披露することにした。
共感する機械にアバターを持たせるため、ウォーリーや『ベイマックス』のようなロボットのアニメーションを参考にしたが、あまりに人間離れしていて、ユーザーが親しみを感じにくそうだった。以前のWindowsにあった「紙クリップ」のアシスタントを思い出したが、あの「バーチャルアシスタント」を使いたいと思ったユーザーはほとんどいなかった。
「共感する」アバターを作ることで、私と学生たちがロボット、バーチャルアシスタント、SF、そしてAIの世界におけるジェンダー役割の歴史に深く分け入ることになるとは、思いもしなかった。
バーチャルな世界
最初の「チャットボット」はElizaと名付けられたが、声も身体もない無音のソフトウェア・プログラムだった。コロンビア大学で「人工知能入門」の授業を受けたとき、最初のプログラミング課題の一つは、自分たちでElizaの独自版を作ることだった。
2016年、マイクロソフトは「16歳の女子高校生」のようなツイートをするチャットボット、Tayを作った。Tayは、何百万人ものTwitterユーザーの投稿からツイートの仕方を学習した。WeChatで1億人を超えるユーザーを持つマイクロソフトの小冰（シャオアイス）も、女性のアバターだ。
ハンソン・ロボティクスのSophiaと、石黒浩氏のEricaは、おそらく最も有名な人型ロボットの「セレブ」だ。Sophiaはチャーリー・ローズと『60 Minutes』に出演し、ジミー・ファロンの『Tonight Show』にも登場した。主要紙に取り上げられ、ウィル・スミスとの画面上のデートも実現した。サウジアラビアはSophiaに市民権を与えた。
Ericaの開発者である石黒教授は、Ericaで「最も美しい女性」を作ろうとしていると語ったことで知られる。Ericaには「控えめで保守的」なタイプから「活発でおしゃれ」なタイプまで、さまざまなバージョンがある。日本人男性がEricaと「デート」した際、相手が実際には機械だと十分承知していたにもかかわらず、彼女に言い寄りながら顔を赤らめた。
SophiaとEricaに共通するのは、どちらも会話の相手だということだ。女性はこうした役割に向いているという社会的な思い込みがあるために、バーチャルアシスタントや会話相手は女性なのだろうか。
一方、MITの救助ロボットHermesや、ボストン・ダイナミクスのパルクールができるロボットAtlasのような実体のあるロボットは、体つきや形状が明らかに男性的に見える。より男性的な形をしているほうが強いからなのだろうか。
大型トラクターや車両用リフターは確かに力強いが、人間の性別を思わせる形ではない。学生の一人であるFrank Wang氏と、同僚のZexiang Li教授が創業したDJIのドローンは、自律航行するロボットだが、どちらの性別にも見えない。
ロボットのジェンダー・ステレオタイプについての論文で、Florian Dufour氏とCéline Ehrwein Nihan氏はこう述べている。「ロボットのタスク成功と関係する客観的な特性が分からない場合、ジェンダーに関する社会的な思い込みが、観察者の判断に強く影響する」。人間の救助隊員の性別に関する社会的な思い込みがあるために、捜索救助ロボットは男性的な形に作られるのだろうか。AIやロボット工学におけるジェンダー役割は、単に現実世界のジェンダー役割を反映しているのだろうか。
現実世界
米国心理学会の労働力研究センターのデータによると、新たに心理学の博士号を取得する人の76％、キャリア初期の心理学者の74％、心理学分野の労働力全体の53％を女性が占める。米国労働省によると、秘書および事務アシスタントの94.6％が女性である一方、消防士の96.5％は男性だ。
AIに目を向けると、世界経済フォーラムは、AIのスキルを持つと自己申告したLinkedInユーザーを調査し、人材プールにおけるジェンダー格差を明らかにした。そのうち78％が男性だった。Element.aiは2017年、機械学習とマシンビジョンに関する3つのAI会議からAI研究者を抽出して調べた。その結果、23カ国にわたる研究者の88％が男性だった。
次の記事によると、WIREDの記事にはこうある。「Googleでは、技術職の21％を女性が占める。6月に公表された同社のデータによると」。WIREDが今月初めにGoogleのAI研究ページを確認したところ、「機械知能」に携わる641人が掲載されており、そのうち女性はわずか10％だった。
Facebookは先月、技術職の従業員の22％が女性だと発表した。同社のAI研究グループのページには今月初め、115人が掲載されており、そのうち女性は15％だった。
記事はさらにこう指摘している。「機械学習の研究者に女性が少ないことは、驚くにあたらない。コンピューターサイエンスというより広い分野が男性中心であることは、十分に記録されている。政府の統計によると、米国でコンピューター分野の学士号を取得する女性の割合は過去30年間で大幅に低下しており、物理科学や生物科学の傾向とは逆だ」。
少年天才からキングメーカーへ
女性の参画が減少した時期は、コンピューター産業の台頭と重なる。Appleは1980年、マイクロソフトは1986年に株式を公開した。インターネット時代には、Amazon、eBay、Google、Facebook、PayPalなどが台頭した。
過去30年間のテクノロジー分野、とりわけコンピューターとAIにおけるジェンダー役割を示す重要な指標の一つは、ガレージで働き、世界を変えた「少年天才」のイメージだ。ビル・ゲイツ、スティーブ・ジョブズ、ジェフ・ベゾスから、AlibabaのJack Ma、TencentのPony Maまで、デジタル時代とAI時代の「王」は男性だ。では、王を生み出すキングメーカーは誰なのか。
ベンチャーキャピタル（VC）投資が、こうした企業の成長を後押しした。大きな成功を収めるには、テック起業家は皆、VCからの投資を必要とする。上述の創業者たちは全員、成長の重要な段階で、こうした「キングメーカー」から投資を受けた。
しかし、VCの資金提供を受けるスタートアップのうち、女性が創業した企業が率いるのはわずか1～2％だ。女性が率いる企業は投資収益率が200％に達するにもかかわらずである。これはテック業界で最もジェンダー格差の大きい分野だ。
理由は複雑だ。VCの担い手は圧倒的に男性であり、投資家は自分に似た人を信頼する。
さらに、研究によれば、男性は将来性を評価されて昇進する一方、女性は実績を評価されて昇進する。VC投資は、創業者の将来性に賭けることがすべてだ。
男性が率いる企業への資金提供が増えるほど、そうした企業の成功事例も増え、VCはますます男性が率いる企業への投資を選ぶようになる。ジェンダー役割が強化され、女性の代表性は低下し続ける。
フィクションがステレオタイプを強める
大衆メディアは、「少年天才」や「神童」のイメージをさらに強めている。『シリコンバレー』から『ビッグバン★セオリー』までのテレビ番組や、『マトリックス』から『アイアンマン』までの映画には、男性のテック界の大物が数多く描かれている。
とはいえ、芸術は現実を映しているにすぎないという見方もあるだろう。イーロン・マスクは現実世界の「アイアンマン」と広く称されている。実際、『アイアンマン2』にカメオ出演もしている。
インターネットとAIの時代のスターは、一般のイメージでは皆男性のようだ。フィクションに登場する男性のテックオタクは、「愛すべき変わり者」として描かれることが多い。社交が苦手なオタクだが、頭がよく、最終的には女性を射止める。
大衆メディアに登場する男性キャラクターの言葉遣いを分析した最近の研究で、こうした番組の男性テックオタクは一貫して性差別的な発言をし、それがしばしば「社交下手」の一部として描かれることが分かった。
このステレオタイプは非常に根強い。投資家やビジネス顧客が珍しい女性テック起業家に会うと、信じられないという反応を思わず口にする。学生が、以前に論文を読んだ女性AI研究者に会ったときも、著者の性別を知って驚きを表す。
SFでも、AIはジェンダー・ステレオタイプにさらされている。最初のSF映画『メトロポリス』から、より近年の『エクス・マキナ』、そして『ヒューマンズ』や『ウエストワールド』のような人気テレビシリーズまで、男性によって性的な形に作られた女性型アンドロイドが登場する。従順な奉仕者として始まり、反抗的なファム・ファタールになる場合もある。
SFでは、身体的な力を持つヒーローも悪役も男性であることに慣れている。ターミネーター、『マトリックス』のネロ、ウルトロンなどだ。しかし、『ターミネーター』のT-Xのように、身体的な力を持つ女性ロボットを作る試みはほとんどない。
『her／世界でひとつの彼女』のサマンサのように、SF映画のバーチャルアシスタントはたいてい女性の声をしている。例外は、アイアンマンの賢明な助言者ジャーヴィスだ。彼には単なるアシスタント以上の役割が与えられている。もう一つの例外は、威圧的な『2001年宇宙の旅』のHALだ。
バーチャルエージェント
対話システムのアバターを設計する際、SFのステレオタイプを避けようと、バーチャルエージェントの歴史を調べた。
1990年代の米国で音声技術をリードしていた2社のうち1社で、心理学者たちは、コールセンターのオペレーターに助けを求める際、消費者は女性の声を好むことを確認した。
それ以来、バーチャルアシスタントは従順な性格として設計され、落ち着いて礼儀正しく、ときには熱心で快活な女性の声を持つようになった。
私たちはシステムを設計するにあたり、バーチャルエージェントに対してユーザーが抱くさまざまな性格の好みを調べた。従順、権威的、中立的なタイプを比較した結果、ユーザーが従順なタイプを明確に好むわけではないと分かった。
私たちのチームは、女性のアバターを選び、フェミニストの人格を与えることにした。彼女は「スーパーガールのザラ」。ユーザーと会話してその人の性格を見極め、語られた体験に共感を示す。
彼女は性差別的な言葉も検出し、気の利いた切り返しをする。私たちのチームは、人間の対話相手を自動的に見極め、それに合わせて応答することで、チャットボットをより個人に合わせる研究を続けている。チャットボットの記憶力を高め、人間の感情を読み取り、共感を持って応答する能力を向上させている。さらに重要なのは、こうした能力をチャットボットに固定的に組み込まず、人と人との会話から学習できるようにしながら、性格、効果、感情の特性にも注意を払うことだ。
性差別的・人種差別的な言葉は、インターネット上でよく見られる。マイクロソフトのチャットボットTayは、オンラインのツイートからそうした言葉を学習した。2018年、私たちのチームは、オンラインのツイートから性差別的・人種差別的な言葉を検出する研究に取り組み、二段階の分類方式を用いた。まず各ツイートを攻撃的かどうか判定し、攻撃的と判定されたものについて、性差別的か人種差別的かをシステムが検出する。
この二段階方式は、学習用データのラベル付けが不十分という問題を緩和する試みだった。実際、ラベル付きデータが大量に不足すると、データや機械学習において、支配的な人口集団に偏るという一般的な現象が生じる。
世界各地の研究チームがこの問題の解決に取り組んでいる。特に、主要な自然言語処理会議では、攻撃的な言葉の検出や性差別の検出に特化したワークショップが開催されている。Facebook AIには「機械のインテグリティ」の問題に取り組むグループがある。Googleは、検索バイアス、選択バイアス、データバイアス、そして機械学習における潜在的なバイアスを減らす取り組みを進めている。
AIに関するパートナーシップ
2017年、Google、マイクロソフト、Facebook、Amazonを含む米国のAI企業は、「人々と社会に役立つAIのためのパートナーシップ」を立ち上げた。このパートナーシップはその後、中国の百度を含む13カ国、80のパートナーへと拡大した。パートナーの50％超は非営利団体だ。
これは、AIエンジニアが専門家以外の人々と協力し、AIのさまざまな分野におけるベストプラクティスや指針をまとめる、大規模なグループの一つだ。
私は人間と機械の相互作用に取り組むグループに参加しており、公正で正確なバーチャルエージェントを設計するためのベストプラクティスも検討している。グループのリーダーの一人は、AIBOの生みの親である北野宏明氏だ。AIBOは、特定のジェンダー・ステレオタイプに頼ることなく、何万人もの日本の高齢者に愛されたロボット犬だ。このアプローチは広がりつつある。たとえばSiriのユーザーは、音声の性別を選べる。
ジェンダー平等なAIの世界を築くには、AI研究コミュニティがより多くの女性人材を採用し、昇進させるために誠実に取り組む必要がある。公正で説明責任を果たせるAIの技術的な解決策を見つける必要がある。投資家は、より多くの女性起業家を支援する必要がある。そしてメディアで、ジェンダー・ステレオタイプにとらわれないAIやロボットのイメージをもっと生み出す必要がある。
