人工知能（AI）システムは日々賢くなり、世界チャンピオンを打ち負かし、囲碁などのゲームで、医療画像で腫瘍を特定する能力では人間の放射線科医を上回り、電力を大量に消費するデータセンターの効率も高めている。一部の経済学者は、AIがもたらす変革の可能性を、蒸気機関、電気、トランジスタなどの「汎用技術」と比較している。
しかし、現在のAIシステムは完璧には程遠い。学習に使われたデータのバイアスを反映しがちであり、予期しない状況に直面すると機能しなくなることもある。ソーシャルメディア上の誤情報をめぐる論争や、YouTubeに投稿された暴力的なコンテンツ、あるいは有名なマイクロソフトのチャットボット「Tay」の事例からもわかるように、AIは悪用される可能性がある。Tayは操作され、わずか数時間で人種差別的、性差別的な発言をするようになった。
では、こうしたバイアスを生みやすく脆弱な技術を、明日の経済の礎にして本当によいのだろうか。
リスクの最小化
AIのリスクを最小限に抑える方法の一つは、開発に携わるチームの多様性を高めることだ。集団での意思決定や創造性に関する研究が示すように、認知的に多様な集団ほど、より良い意思決定を行う傾向がある。残念ながら、これは現在AIシステムを開発しているコミュニティの実情とは大きくかけ離れている。ジェンダーの多様性の欠如は、その重要な側面の一つだ（ただし唯一の側面ではない）。
レビューでは、今年初めにAI Now Instituteが公表した調査によると、権威あるAI関連学会に応募する研究者のうち女性は20%未満であり、スタンフォード大学とカリフォルニア大学バークレー校でAIを学ぶ学部生のうち、女性はわずか4分の1だった。
著者らは、ジェンダーの多様性の欠如が、女性に特有の影響を及ぼすAIの失敗につながっていると論じている。その一例が、アマゾンの採用システムで、女性の名前を持つ応募者を差別することが明らかになった。
私たちの最近の報告書「AI研究におけるジェンダーの多様性」では、AIコミュニティが研究成果の発信に広く利用するプレプリント投稿サイトarXivに掲載された150万件の論文を「ビッグデータ」分析した。
私たちは要旨の文章を分析し、どの論文がAIの手法を用いているかを特定した。著者の名前からジェンダーを推定し、AI分野のジェンダーの多様性の水準とその経時的な変化を調べた。また、研究分野や国ごとの状況を比較し、女性の共著者がいる論文と男性のみの論文との間で、言葉遣いにどのような違いがあるかも調査した。
私たちの分析は、AI研究にジェンダーの多様性をめぐる危機があるという見方を裏付けている。arXivに掲載されたAI論文の著者のうち、女性はわずか13.8%であり、相対的に見ると、女性が少なくとも1人共著者に含まれるAI論文の割合は1990年代以降、改善していない。
国や研究分野によって大きな違いがある。AI研究における女性の割合はオランダ、ノルウェー、デンマークで高く、日本とシンガポールでは低いことがわかった。また、物理学、教育学、生物学、コンピューティングの社会的側面を研究する女性は、コンピューターサイエンスや数学の研究者に比べ、AIに関する研究を発表する傾向が高いこともわかった。
AI研究に携わる人材のジェンダーの多様性を測定するだけでなく、女性が参加している研究論文と参加していない論文の意味上の違いも調べた。ジェンダーの多様性が高い研究チームほど、AI研究で扱う課題やテーマの幅が広がり、その成果がより包摂的になる可能性があるという仮説を検証した。
そのため、機械学習の手法である単語埋め込みを用いて各論文の「意味的特徴」を測定し、女性著者が少なくとも1人いる論文と、女性著者がいない論文との間で比較した。
英国の機械学習とコンピューティングの社会的側面に焦点を当てたこの分析では、両グループの間に大きな違いが見られた。特に、女性の共著者が少なくとも1人いる論文は、より応用的で社会への意識が高い傾向があり、「公平性」「人間の移動」「メンタル」「健康」「ジェンダー」「パーソナリティ」といった用語が重要な役割を果たしていた。両グループの違いは、認知的多様性が研究成果に影響するという考えと一致しており、社会課題への取り組みを促すことを示唆している。
解決に向けて
では、AI研究における根強いジェンダー格差の原因は何か。そして、私たちに何ができるだろうか。
研究によると、科学・技術・工学・数学（STEM）分野の人材におけるジェンダーの多様性の欠如は、単一の要因によるものではない。ジェンダーに関する固定観念や差別、ロールモデルやメンターの不足、仕事と生活のバランスへの配慮不足、テクノロジー業界の「有害な」職場環境が重なり、ジェンダー包摂を阻む深刻な状況を生み出している。
AI研究におけるジェンダー格差を解消する簡単な方法はない。少数派グループの研究者を支援し、その活躍を後押しする安全で包摂的な場をつくる組織全体の改革、研究界や産業界の意識と文化の変化、そして多くの分野におけるAIの変革の可能性をより適切に伝えることが、いずれも解決に寄与しうる。
政策的な介入としては、たとえば、新たな転換学位課程を通じてAI職種の多様性を高めるための政府による1,350万ポンドの投資が状況の改善に一定の効果をもたらすだろう。しかし、AIに携わる人のイメージを変えるためには、芸術・人文科学とAIの結びつきを強める、より大規模な取り組みが必要だ。
教育が進むにつれて、女子がSTEM科目を選ばなくなる割合が高い理由は一つではないが、ジェンダーに関する根強い固定観念や、男子よりも女子の自信に大きく影響する教育環境などの要因が問題の一因となっている証拠がある。AIを使って社会に良い変化をもたらしているロールモデルも、広く紹介しなければならない。
こうした課題に取り組む具体策の一つが、Longitude Explorer Prizeである。この賞は、中高生がAIを使って社会課題を解決し、AI分野のロールモデルと協働することを促している。私たちは若者、特に女子に、AIが社会に良い影響をもたらす可能性と、変化を推進する自分たちの役割を認識してほしいと考えている。
若い女性のスキルと自信を育むことで、AIを学び、AI分野で働く人々の構成比を変え、AIが持つ潜在的なバイアスへの対処にもつなげられる。
