女性の声で応答し、女性の助手として設計された人気のデジタルアシスタントは、性差別的なステレオタイプを強化していると、国連の報告書は指摘しています。
Apple のSiri、AmazonのAlexa、MicrosoftのCortanaなどのアシスタントの大半は、名前から声、性格に至るまで女性的に見えるよう設計されていると、この研究は述べています。
国連の科学文化機関であるユネスコの研究者によると、これらは従順で卑屈になるようプログラムされており、侮辱に対しても丁寧に応答するため、ジェンダーバイアスを強化し、性差別的なハラスメントを常態化させているとのことです。
この研究では、問題の一例として、Siriが以前は、ユーザーから「bitch（あばずれ）」と呼ばれた際に「もし可能なら赤面したいところです」と応答するようプログラムされていたことが強調されています。
「Siriが性的虐待に対して従順であることや、若い女性として描かれた他の多くのデジタルアシスタントに見られる卑屈さは、技術製品に組み込まれたジェンダーバイアスを如実に示している」と報告書は述べています。
Apple、Amazon、Microsoftはいずれも、コメントについてすぐには連絡が取れませんでした。
Microsoftの広報担当者は以前、同社がCortanaの音声オプションを調査し、「女性の声が、デジタルアシスタントを作るという当社の目標を最もよく支えることがわかった」と述べています。
音声アシスタントは多くの人々の日常生活に急速に浸透しており、現在ではインターネット検索のおよそ5分の1を占めている、と報告書は述べ、文化的に大きな影響を及ぼし得ると論じています。
音声技術が世界中のより多くのコミュニティに広がるにつれ、デジタルアシスタントの女性化は、ジェンダーバイアスが定着し広がる一因となる可能性がある、と報告書は付け加えています。
「AI技術がいつ、どのようにジェンダー化されるのか、またそもそもジェンダー化されるべきか、そして何より、誰がそれらをジェンダー化しているのかに、世界はもっと注意を向ける必要がある」と、ユネスコのジェンダー平等担当ディレクターであるSaniye Gulser Corat氏は述べています。
報告書は企業に対し、デジタルアシスタントをデフォルトで女性として設定することをやめること、ジェンダーに中立的な選択肢を検討すること、ジェンダーに基づく侮辱や攻撃的な言葉を抑止するようアシスタントをプログラムすることなどの措置を講じるよう求めています。
性差別的なステレオタイプの助長を避けるため、クリエイティブチームが今年初めに、初のジェンダー中立的なデジタルアシスタント音声を開発しました。
ユネスコの報告書は女性団体からも歓迎されており、Womankindの広報担当者であるMaria Vlahakis氏は、アルゴリズムにおけるジェンダーバイアスに「非常に必要な注目」を集めたと述べています。
「これらのアルゴリズムはジェンダーのステレオタイプや性差別的・女性蔑視的な行動を永続させ、技術分野における より広範な構造的ジェンダー不平等を反映している」と彼女は述べています。
