社会的に疎外されたグループは、新しいテクノロジーの設計と導入において十分に代表されていない。
支配的な言説では、社会に蔓延する構造的な問題に対処するために、テクノロジーは「修正」できるとされている。
私たちに必要なのは、これらのグループの懸念に焦点を当てた包摂的な参加である。
テクノロジーが社会的に疎外されたグループに与える影響が議論される際、あまりにも頻繁に焦点が、社会的に疎外されたグループへの被害に対処するための「テクノロジーの修正」に当てられている。この言説は根本的に欠陥がある。それは、テクノロジーが、せいぜい無自覚、最悪の場合は無関心な第三者によって、社会的に疎外されたグループに押し付けられているという前提に基づいているからだ。
また、最も完璧に機能するテクノロジーであっても、導入される状況によっては、グループに悪影響を及ぼしうるという点も無視している。テクノロジーの設計と導入においては、社会的に疎外されたグループのニーズを考慮し、そのプロセスにおいてこれらのグループの関与、協議、参加を促す時が来ている。構造的な権力関係に対する技術的な「解決策」という誤った言説を助長し続けるべきではない。
社会の中で社会的に疎外されたグループや人種的に不利な立場に置かれたグループに悪影響を及ぼすテクノロジーは、「修正」によって正すことができるという考えが根強く残っている。政策立案者が、テクノロジーを通じて社会の権力構造を再生産することに対抗しようとしている場合でも、この考えは強化され続けている。社会の権力構造を再生産することテクノロジーを通じて。欧州委員会が最近発表した人工知能に関する規則案によってそれは裏付けられている。
欧州委員会の倫理と人工知能に関する白書は、規則案に先立つ2021年4月に発表され、「アルゴリズムの利用は、アルゴリズムを訓練するデータがEU社会の多様性を反映していない場合、人種的偏見を永続化させたり、むしろ助長したりしかねない」と述べており、規則案もその方針に従い、AI技術における「偏見」への対処を目指している。
この立場は、自明の理由から、大手テクノロジー企業にも非常に人気がある。例えばIBMはと表明しており、顔認識技術の欠点について、の研究（当時MITメディアラボの研究者だったJoy Buolamwiniによるもの）は、男性で白人の顔に対してのみ正確に機能することを示したが、それは「AI技術そのものではなく、AIを活用した顔認識システムの訓練方法に問題がある」としている。
世界経済フォーラムは、多様性、公平性、包摂性について何に取り組んでいるのか。
ニュー・エコノミー・アンド・ソサエティ・センターは、経済と技術の変化が仕事、スキル、機会をどのように作り変えているのかを理解するために、リーダーをつないでいる。
センターは、共有された知見と協働を通じて、パートナーが移行期において人々と社会を支える包摂的な経済モデルを探求できるようにしている。
社会的に疎外されたグループおよび人種的に不利な立場に置かれたグループは、不釣り合いに大きな負担を負っており、社会におけるテクノロジーの利用拡大の影響を受けている。これは早急に対処される必要がある。しかし、技術的な解決策に焦点を当てることは、私たちが議論すべき課題ではない。
問題は何であり、どのように解決できるのか。
確かに、私たちには「ブログラマー」問題がある。これは、主に白人、男性、特権的な立場にある設計者やエンジニアの集団による選択を組み込んでしまうものであり、その結果、彼らの世界観を押し付けることになる。また、確かに、テクノロジーの訓練に用いられるデータセットには深刻な問題があり、社会における権力構造を再生産し、人種的に不利な立場に置かれたグループや社会的に疎外されたグループに対する抑圧の仕組みを維持している。しかし、これらの側面だけに注目することは、テクノロジーを正しく作ることができ、それを「修正」できさえすれば、そのテクノロジーの利用は問題ないという誤った言説を助長する。これは誤解である。わずかなデータセットを調整するだけで、何世紀にもわたる構造的抑圧を覆すことはできない。
欧州のデジタル権利を代表する最大の会員組織であるEDRi（European Digital Rights）は、欧州委員会の規則案への対応として次のように述べている。「何世紀にもわたる体系的な人種差別と差別を覆すのに、十分に高度なリスク評価も、「手っ取り早い解決策」もない。問題は、テクノロジーに組み込まれているだけでなく、私たちが生きている社会システムそのものにも組み込まれている。」
テクノロジーの導入そのものが、特定のグループに対する暴力を構成しうる。その例として、移民および国境の取り締まり、法執行、あるいは不可欠な政府サービスの提供におけるテクノロジーの利用を見れば十分である。これは、困難をさらに悪化させ、権力構造をさらに強固にし、司法へのアクセスを妨げ、場合によっては阻止することさえあるという無数の事例がある。
テクノロジーが、個人やコミュニティのニーズに基づき、その参加のもとに設計・構築されるようにすることに焦点を当てるべきである。
Nani Jansen Reventlow。
これを真に解決するには、議論の根本的な転換が必要である。特権を持つ少数の人々がテクノロジーを設計し、それを社会的に疎外されたグループに押し付けるという権力関係の考え方を受け入れ、強化するのではなく、テクノロジーが個人やコミュニティのニーズに基づき、その参加のもとに設計・構築されるようにすることに焦点を当てるべきである。
私たちが基盤とできる、コミュニティによるテクノロジーへの参加と所有の例は、すでに存在している。例えば、警察による暴力の事案を安全に記録・保存するアプリは、フランスで警察の暴力により愛する家族を失った遺族が主導する集団によって作られたものである。米国では、より制度的な例として、ACLUが開発した類似のアプリがある。また、トーゴでは、スマートシティに対する脱植民地主義的なアプローチがあり、フェミニストによるインフラプロジェクトは、テクノロジーの仕組みに注目するのではなく、テクノロジーの実践が、私たち全員にとって解放のためのツールとなりうるかどうかに注目している。
これらの実践は、私たちが別の道を選べることを示している。ローレンス・メイヤーが最近の記事で書いたように、「テクノロジーは無から生まれるものではない。それは搾取、収奪、強制移住、暴力の産物である」というのは事実である。しかし、現在の現実は人間が作り出したものであり、私たちによって変えることができる。重要なのは、社会のすべての人々のためにより公正な未来を創造できるうちに、今から変革を始めることである。テクノロジーと人権に関する政策議論の条件を定める人々、規制当局、テクノロジーに投資する人々、そしてそれを購入し導入する人々は、一刻も時間を無駄にすべきではない。
