米国の活動家らはAIにおける人種的偏見への懸念を示しており、誤った顔認識による不当逮捕も報告されている。
デジタル分野の権利擁護団体Algorithmic Justice Leagueによると、AIシステムが包摂的でない理由の一つは、開発チームの大半が白人男性で構成されていることだ。
テクノロジーが社会でますます重要な役割を担うなか、あらゆる偏見を取り除くことが不可欠だと、Black Lives Matter（BLM）共同創設者のアヨ・トメティは述べる。
人工知能における人種的偏見への懸念が高まるなか、Black Lives Matter（BLM）共同創設者のアヨ・トメティは、顔認識などのシステムで人種差別が再生産されるのを防ぐため、テクノロジー業界に迅速な対応を促した。
人工知能は世界を変革しており、病気の早期発見の改善からデータの整理、複雑な問題の解決まで、さまざまな分野で活用できる一方、懸念もある。
「アルゴリズムの多くも、データの多くも人種差別的です」と、2013年にBLMを共同創設した米国の活動家トメティは、リスボンで開催されたWeb Summitの会場でロイターに語った。
「開発中のテクノロジーに人種差別がどのような形で表れるのか、テクノロジー業界には本当に理解してもらう必要があります」と彼女は述べた。
この数年、テクノロジー業界ではAI技術の倫理をめぐる厳しい検証が続いている。批判する人々は、こうしたシステムがプライバシーを損ない、社会的に疎外された集団を標的にし、侵入的な監視を常態化させるおそれがあると指摘する。
一部のテクノロジー企業は、小売店や病院がセキュリティ目的で広く利用するAI顔認識システムの一部に、欠陥がある可能性を認めている。
水曜日、Facebookは利用をめぐる懸念を理由に、顔認識システムを終了すると発表した。Microsoftは昨年、警察への顔認識技術の販売について、連邦規制が整うまで待つと述べた。
米国と英国の警察は容疑者の特定に顔認識を使っている。しかし、米国国立標準技術研究所の調査では、この技術は白人の顔に比べ、アフリカ系米国人やアジア人の顔の識別精度が低いことが分かった。
昨年、顔認識の誤りに基づくものとして初めて知られる不当逮捕が米国で起きた。国連は、この事例について、ツールが主に白人の顔で学習されていたことが原因だとして、テクノロジー業界に多様性が欠ける危険性を示す例に挙げた。
「未来への解決策」
「テクノロジーは、本来ならもっとゆっくり広がる価値観を加速させる力があるため、（テクノロジー企業は）細心の注意を払わなければなりません」とトメティは述べた。「しかし、テクノロジーはあらゆることを速めるので、影響はより深刻に、より早く表れます。」
ソフトウェア開発者に「細部まで注意を払う」よう促し、彼女は黒人の声にもっと耳を傾けるべきだと述べた。
「残念ながら、テクノロジー企業が地域社会との橋渡しをするには、まだ長い道のりがあると感じます」と彼女は述べた。
デジタル分野の権利擁護団体Algorithmic Justice Leagueによると、AIシステムが包摂的でない理由の一つは、開発チームの大半が白人男性で構成されていることだ。
欧州最大のテクノロジーイベントであるWeb Summitに参加した数百社のAIスタートアップの一つに、製品開発を専門とするブラジルのNeuralMindがあった。
CEOのパトリシア・タバレスはトメティの懸念に同調し、AIは社会に恩恵をもたらす一方、「企業が責任を持って倫理的に利用するよう確実にするための法律」が必要だと述べた。
NeuralMindのブースからさほど離れていない場所で、健康追跡プラットフォームRevolabのCEO、カリナス・オビディユスは、同社のスタートアップが北欧諸国とバルト諸国を市場としており、地元の病院や保健センターから提供されてアクセスできるデータの大半は白人に関するものだと述べた。
彼らは、このプラットフォームが有色人種の人々の健康上のニーズに応えられるかどうか確信を持てなかった。
「未来の課題に向けた解決策が必要ですが、その解決策は非常に包摂的でなければなりません」とトメティは述べた。「社会的に疎外され、脆弱な立場にあるコミュニティを守ること、それが彼らの責務です。」（取材：カタリーナ・デモニー、追加取材：ミゲル・ペレイラ、ペドロ・ヌネス、編集：アンドレイ・ハリップ、アリソン・ウィリアムズ、ギャレス・ジョーンズ）
