人工知能は、誰に話を聞くかによって、世界のあらゆる問題を解決する特効薬とも、破滅を確実に招く原因とも見なされています。
現実はおそらくはるかに平凡なものです。AIは道具であり、これまでの多くの技術革新と同様に、善にも悪にも用いられるでしょう。しかし、極端な最悪のシナリオに注目しても、現在の現実の解決には役立ちません。AIは、私たちが購入する製品や楽しむ音楽・映画に影響を与えるため、また金銭を守るため、さらには採用の意思決定や犯罪行動の処理にも、ますます使われています。その採用や犯罪処理への利用は、物議を醸しています。
AIの大きな問題は、いわゆる「ゴミを入れればゴミが出てくる（garbage in, garbage out）」と呼ばれるものです。私たちは既存の偏見を含むデータをアルゴリズムに入力しており、その偏見が自己成就的になってしまいます。採用の場合、過去に男性候補者を採用してきた企業では、AIが女性候補者を不採用にすることがあります。過去に成功した応募者の型に女性が当てはまらないからです。犯罪や再犯の予測の場合、アルゴリズムは歴史的・社会的な偏見を拾い上げ、さらにそれを広げてしまいます。
ある意味で、これは「鶏と卵」の問題です。西洋世界はより長くデジタル化されてきたため、AIが解析すべき記録がより多く存在します。さらに、多くの分野で女性は過小評価されてきたため、データが少なく、存在するデータも質が低いことがしばしばです。偏りのない質の高いデータをAIに与えられなければ、AIは私たちが排除しようとしている偏見を学習し、それを継続させてしまいます。利用可能な最大のデータセットでさえ、あまりに質が低いため、結果が予測不能で想定外のものになることがよくあります。その例が、Twitterで人種差別的な発言をしたチャットボットです。
これらはすべて、AIそのものが本質的に悪いということではありません。AIは、人間よりも優れた意思決定ツールになる可能性を秘めています。AIは賄賂を受け取ることも、だますことも、社会工学的に操られることもありません。疲れることも、空腹になることも、怒ることもありません。では、答えは何でしょうか。
短期的には、AIの偏見を特定し、それに対抗することを可能にする基準と試験を開発する必要があります。機械学習の裏側で何が起きているのかを理解するのは極めて複雑で難しいため、これらは独立した合意に基づき、厳密に試験されなければなりません。
また、AIのユーザー向けの体験や、個人向けアシスタントやチャットボットに内在する性差別についても考える必要があります。これらの多くは、概ね女性として設計されています。最初によく知られた自動アシスタントは男性（HAL-9000）だったかもしれませんが、今日では、自動アシスタントを従属的な女性としてしか想像できないようです。消費者は単に女性の声を好むという消費者調査によってこれが正当化されることがよくありますが、アシスタントを利用する役割の種類に関するジェンダーのステレオタイプが、どの程度この結果に影響しているのでしょうか。
包摂、エンパワーメント、そして平等により一層の焦点を当てることで、こうした不均衡に対処する機会があります。テクノロジー産業で働き、アルゴリズムを書き、製品開発に関わる女性が増えれば、私たちが技術をどのように想像し、開発し、それがどのように響き、どのように見えるかが変わるでしょう。
しかし、これは解決が難しい課題です。テクノロジーと工学は、歴史的に見て世界で最も男性中心の労働分野の二つであり、無意識のジェンダー・バイアス（そしてある程度の意識的なバイアス）が蔓延しています。取締役会に女性がいることが業績を高め、新たなアイデアを生み出し、企業が危機を乗り切る助けになることが示されているにもかかわらず、小規模企業でCEOを務めた男性候補者が、大企業で事業部門全体を統括してきた女性よりも優先されることがよくあります。その女性の方が、より大きく、より関連性の高い経験を有していると言えるにもかかわらずです。
少女たちにテクノロジーのスキルを身につけさせ、STEM分野でのさらなる教育を受けるよう促し、男性中心の分野の職務に応募するよう後押しする優れた取り組みが進められています。しかし、トップダウンの変革が実施されるまでは、進展は遅いままでしょう。今日、介入がなければ、私たちが育成し訓練しているこの次世代の女性たちは、まさにそのために準備している機会を奪われてしまう現実的なリスクがあります。偏ったアルゴリズムが、現状の維持を優先し、彼女たちを単に脇に追いやってしまうからです。
次世代の労働者が、影響力のある変革を生み出すために必要なスキルを確実に身につけられるよう、Girls in AIのようなプログラムの力を私は強く信じています。しかし、その道を切り開くためには、業界全体の合意が必要です。私たちが依拠するデータの質と偏見の検出の両面で基準と試験が必要であり、また、より多くの女性を迎え入れ、変化の速度を加速させるため、テクノロジー企業に既存の方針やインセンティブを再検討するという約束が必要です。
