米国、カナダ、英国では、2月がブラック・ヒストリー・マンスです。
米国の公民権運動と新興技術は、特に正義を重視する観点から、密接に結びついています。
AIがコミュニティに力を与え、社会に利益をもたらすには、倫理的かつ公平なアプローチが不可欠です。
アルゴリズムのバイアスは、人間による見過ごしが招く大きな損失です。周縁化され、十分に代表されていないコミュニティに甚大な影響を及ぼすためです。人工知能（AI）がさまざまな業界や業務に広がるにつれ、無意識のバイアスが入り込み、利益よりも害をもたらすおそれがあります。
AI倫理の専門家や責任あるAIの実践者は、AIのライフサイクルにおける透明性と説明責任の向上が必要だとよく語ります。一方、ブラック・ヒストリー・マンスは、組織がこれまでの多大な取り組みと、なお必要な取り組みを評価する機会となることがよくあります。
AIを信頼するは、EqualAIのミリアム・フォーゲルと、世界経済フォーラムのケイ・ファース＝バターフィールドが共同で司会を務めるポッドキャストで、責任あるAIを大規模に展開する機会と課題を探ります。今年のブラック・ヒストリー・マンスのエピソードでは、EqualAIおよび世界経済フォーラムのケイ・ファース＝バターフィールドが共同で司会を務めるこの番組で、責任あるAIを大規模に展開する機会と課題を探ります。今年のブラック・ヒストリー・マンスのエピソードには、AIはブラック・ヒストリー・マンスの祝い方にどう影響するのか（そして、どう影響すべきか）AI倫理の専門家、犯罪学者、コロンビア大学のコミュニティ・スカラーであり、Urban AIの創設者でもあるレネー・カミングスが参加しました。
このエピソードでは、AIにおける公平性と包摂性の重要性に加え、正義や市民参加とのつながりにも焦点を当てています。
AIとデータサイエンスの多くは、公民権に関わるものです。ブラック・ヒストリー・マンスについて考えるとき、私たちは遺産、そして世界を変えたアメリカの遺産を思い浮かべます。AIについて考えると、アルゴリズムが遺産を生み出し得るということです
レネー・カミングス、AI倫理の専門家
黒人コミュニティにおけるテクノロジーの歴史
米国の有色人種のコミュニティには、テクノロジーに対する不信の歴史があります。法執行、社会福祉、住宅、医療のいずれにも格差や不公平が見られ、とりわけ新型コロナウイルス感染症のパンデミック時には顕著でした。カミングスによると、比較的最近の歴史においても、多くのコミュニティが研究の「モルモット」として扱われてきたため、不信感は世代を超え、トラウマに根ざしています。AIなどの新技術を導入するには、信頼と正義を築き直す必要があります。
AIは人間同士のやり取りを支援し、再現することを目的としているため、テクノロジーがすべきでないのは、古くからの人間のバイアスを温存し、有害で不正確なステレオタイプを広めることです。特に黒人、先住民、有色人種（BIPOC）の人々の未来を損ない続ける旧来のシステムは、導入を検討すべきツールではありません。
AIが奨学金や住宅ローンの対象者、経済的資本を築く機会を得る人を決めるなどの機能を担い始めた今、AIが疑いの余地なく偏りのない包摂的なものでなければならない理由は明らかです。人間同士のやり取りを再現するなら、人類が示し得る最善の姿を反映すべきであり、最悪の姿ではありません。
世界経済フォーラムは多様性、公平性、包摂性にどう取り組んでいるのか？
新経済・社会センターは、経済・技術の変化が仕事、スキル、機会をどのように変えつつあるのかを理解するため、リーダーたちをつなぎます。
知見の共有と協働を通じて、同センターは、移行期に人々と社会を支える包摂的な経済モデルをパートナーが探求できるよう支援します。
AI&Youは、周縁化されたコミュニティにAIについて知ってもらい、学んでもらうことを使命とする非営利団体で、バイアスについて次のように説明しています。
「AIは、私たちが見せているものを認識しているわけではありません。それでも理解しようとします。ですから、AIに見せるもの自体に、たとえば人種差別的または外国人嫌悪的なバイアスが含まれていれば、AIは必然的にその振る舞いを再現します。」
テクノロジーが武器として使われた近年の重大な事例として、2020年のブラック・ライブズ・マター抗議活動が挙げられます。カミングスによると、「監視技術が多くのジャーナリスト、抗議者、活動家を追跡し、恐怖に陥れるために使われました。公平なアプローチや多様性のあるアプローチが欠けていることに伴う課題が数多く見られました」。
顔や声の認識・追跡を可能にするAI搭載技術が、そのデータや設計のために本質的に偏っているなら、標的にされたBIPOCコミュニティは、気づかないうちに危険にさらされます。AIを拡張可能なものにするには、倫理的かつ公平なアプローチが不可欠です。
公共の信頼を得るテクノロジーと市民参加
AIの多くは、一般の人々に知られないまま開発・運用され、その過程に人々が関わらないまま進みます。レネー・カミングスは、AIのような新興技術の設計や導入において、市民やコミュニティが参加することを強く支持しています。信頼を築くには、人々が「公共の信頼を得るテクノロジー」に関わる必要があります。
公共の利益を守る担い手として、AIが責任ある信頼できるものになるよう、誰もが共同の責任を負うとカミングスは述べています。また、AIシステムの稼働を可能にするデータや知識は、最終的にはコミュニティが生み出すものです。そのため、設計段階からコミュニティの声を取り入れるのは理にかなっています。
さらに、持続可能な未来を築き、より包摂的なイノベーションを実現するには、教育と多様な声が必要です。これは特に、公共の安全と安心に関わる分野で重要です。たとえば、あるコミュニティが法執行機関に対する根強い不信感を抱いている場合、たとえ有益な技術であっても、法執行機関が導入すれば信頼できないものと見なされるでしょう。
テクノロジーの導入が、いずれかのコミュニティに危機をもたらす正当な理由となる、あるいは危機を生み出すべき状況は決してありません。既存のあらゆるツールの中に新たなツールを導入する際は、包摂性を意図し、目的を持って取り組み、コミュニティに力を与え、社会全体に利益をもたらす必要があります。
AIの包摂性を確保する4つの方法
多様性：構想、設計、開発から導入、リリース後のモニタリングまで、AIのライフサイクル全体を通して必要です。Appenの最高経営責任者マーク・ブレイアンは、世界経済フォーラムへの寄稿で、寄稿し、「包摂的なAIを生み出すには、開発プロセスの全段階を通じて考え方を根本から変える必要がある」と述べています。
透明性：構想や設計の段階だけでなく、プロジェクトに適した投資や資金を選ぶ際にも必要です。何を設計しているのか、そして何より、誰のためなのか、どのような影響があるのかを明らかにすることは、新しいテクノロジーに欠かせません。
教育：十分に代表されていないコミュニティに、AI分野を理解し、そこで働くためのツールやスキルを教え、身につけてもらうことです。DataEdXの創設者であり、スタンフォード大学PACS実務家フェロー、Siegel Family Endowmentのパートナー研究フェローでもあるブランデイス・マーシャル博士は、DataEdX、スタンフォード大学PACS実務家フェロー、Siegel Family Endowmentのパートナー研究フェローでもあるブランデイス・マーシャル博士は、コミュニティ対話の中で、BIPOCコミュニティに届けるには代表性が必要だと語りました。「自分の姿を見いだせなければ、自分もそうなれません。より多くの人をこの分野に招き入れるうえで、これは非常に大切です。」
アドボカシー：AI分野におけるBlack in AIのような組織や個人の活動を支援し、その取り組みに注目することです。Black in AIは、AI分野で世界中の黒人が直面する障壁を取り除いてきました。また、Global AI Action Alliance（GAIA）もその一例です。
