人工知能（AI）は、人間の意思決定者に提示する推奨事項を増やし続けています。
したがって、AIだけでなく、それを取り巻くエコシステム全体を信頼できるようにしなければなりません。
公平性という概念そのものは流動的であり、複数のステークホルダーによる協議を必要とします。
人間には、確証バイアス、アンカリング、ジェンダーに関するバイアスなど、さまざまな種類の偏りがあります。こうしたバイアスによって人々が不公平に行動する可能性があるため、社会としてそれを緩和する努力をしています。
これは、人間が他者に影響を及ぼす重大な意思決定を行う立場にある場合に、特に重要です。私たちは、教育、行動指針、規制を組み合わせることでこれに取り組んでいます。
人工知能（AI）が人間の意思決定者に提示する推奨事項が増え続ける今、技術としてのAIに偏りがなく、公平性の価値を尊重するものであるよう確保することが重要です。
実際、AIを可能な限り有益なものにすることを目指す取り組み（AI倫理に関連する取り組み）では、AIの公平性が議論と具体的な作業の主要テーマの一つとして含まれています。
AIの公平性について、あらゆる側面を網羅し、それらの相互関係を活用する、より包括的な見方を特定し提案すべき時が来ています。
Raja Chatila
こうした例は数多く、欧州委員会の人工知能に関する高レベル専門家グループによる「信頼できるAIのための倫理ガイドライン」から、信頼できるAIのための倫理ガイドライン（欧州委員会 人工知能に関する高レベル専門家グループ）、そして世界経済フォーラム「人類のためのAIに関するグローバル未来評議会」に至るまで、その焦点は多岐にわたります。
AIの公平性は、ここ数年、企業、政府、市民社会組織、そして複数のステークホルダーによる取り組みにおいて主要な焦点となってきました。その間、さまざまなアプローチが次々と登場してきましたが、それぞれのアプローチは、AIの公平性の一つまたは複数の側面に焦点を当ててきました。
しかし今こそ、AIの公平性のあらゆる側面を網羅し、それらの相互関係を活用する、より包括的な見方を特定し提案すべき時です。これにより、最も効果的な枠組み、技術、政策を構築することを目指します。
ただし、ここに問題点があります。AIシステムは人間によって構築され、人間が学習データとテストデータを収集し、開発に関する決定を行うため、意識的であるか否かにかかわらず、偏りが組み込まれる可能性があります。その結果、そうした偏りを反映・増幅するAIシステムが導入され、特定のカテゴリーの人々に対して体系的に不公平な決定や推奨がなされることにつながりかねません。
AIモデルの説明可能性を高めるツールは、AIの決定の背後にある理由を特定することを可能にし、そのため偏りを特定するうえでも役立ちます。
Francesca Rossi
ここでは、既に複数の技術的ツールが役立ちます。これらは、さまざまなデータ種別（テキスト、音声、動画、画像、構造化データ）にわたってAIの偏りを検出し、緩和することができます。実際、社会に存在する既存の偏りがAIシステムに組み込まれる可能性があり、一部の特徴（ジェンダーと融資の承認可否など）の間にある望ましくない相関関係は、それを検出して回避することで緩和できます。
AIモデルの説明可能性を高めるツールは、AIの決定の背後にある理由を特定することを可能にし、そのため、AIのデータやモデルにおける偏りを特定するうえでも役立ちます。ただし、AIの偏りに関する技術的側面と解決策は、AIの公平性を実現するうえでの一つの側面に過ぎず、おそらく最も容易な側面です。
技術的な側面を超えて
AIの公平性を実現することは、単なる技術的課題ではありません。一方では、データ収集と処理における偏りを特定・緩和するための適切なツールを特定、導入、採用するガバナンス体制が必要であり、他方では、個々の具体的なユースケースごとに必要かつ適切な監督を定義する枠組みも必要です。
また、公平性という概念そのものは文脈に依存し、特定の適用シナリオに応じて定義されるべきであることも忘れてはなりません。正しい定義は、AIシステムを構築・導入する者が、利用者や関係するコミュニティとそれについて議論し、関連する公平性の概念を特定する、複数のステークホルダーによる協議を通じてのみ特定できます。
「偏っているとは誰も教えてくれなかった」
AIの公平性のもう一つの側面は教育に関わるものです。人間の偏りはほとんどが無意識であるため、AIの公平性を実現するあらゆる道筋は、必然的に意識の醸成（教育）から始まります。AI開発者は、自らの偏りと、開発パイプラインの中でそれらをAIシステムにどのように組み込む可能性があるかを認識する必要があります。
しかし、開発者への教育だけでは不十分です。開発者の周囲の環境全体が、起こりうる偏りを認識し、それを検出して緩和する方法を学ぶ必要があります。公平性の文化を築かなければなりません。その中で、管理者は多様な開発者チームの構築方法を理解し、AIの偏りの検出と緩和に対するインセンティブを定義する必要があります。
経営幹部や意思決定者は、AIの偏りの問題と、それがクライアント、影響を受けるコミュニティ、そして自社に与えうる影響を理解するための支援を必要としています。
こうした教育は、適切な方法論によって補完される必要があります。その方法論は、採用されるだけでなく、徹底され、促進されなければなりません。これを実現するために、企業は自社のビジネスモデルと導入分野に最も適した内部ガバナンス枠組みを定義する必要があります。
システムそのものを超えて
AIシステムは公平であるべきであり、人間の偏りを増幅させないよう慎重を期すべきであるだけでなく、集団やコミュニティ間の不平等の原因とならないよう確保すべきです。
したがって、社会における多様性と包摂性も、特定の社会的文脈におけるAIの利用の影響に関わる、AIの公平性のもう一つの側面です。技術は不平等を拡大するのではなく、アクセシビリティを向上させ、ジェンダー、障害、地理、民族など、さまざまな軸におけるデジタルデバイドを縮小すべきです。
公平性にはグローバルな側面もあり、世界の異なる地域間で、各地域の特殊性を考慮しつつ、等しく推進されなければなりません。
AIの公平性のもう一つの重要な側面は、導入・利用される特定のAIが公平であることを保証するための、適切かつ共有されたルールをどのように定義するかに関わります。AIの提供者は、自らが生み出すAIが公平、堅牢、説明可能、正確かつ透明であることを確保するために、内部原則、ガイドライン、方法論、ガバナンス枠組みの定義と実装において役割を果たすべきです。
ただし、他の機関がAIの枠組みの共同策定を支援しない理由はありません。ここで言及しているのはガイドライン、ベストプラクティス、標準、監査、認証、規制、法律です。結局のところ、利用されるAI技術の公平性とその社会への影響を正しく枠づけるためには、複数のステークホルダーによる協議を通じて定義された、これらの仕組みの慎重な組み合わせが必要なのです。
したがって、AIの公平性の領域は広範かつ複雑です。すべてのAIステークホルダーは、この領域の中で自らが関わる部分において役割を果たすために、時間と資源を充てるべきです。
主な動機は明確です。技術が人間の価値を尊重し支えること、そしてそれらが危険にさらされないようにすることです。ただし、AI構築者にとっては他の動機もあります。実際、AIの公平性への対応は、経済的かつ社会的な急務でもある。
AIやその他の技術を導入しながら、ここで論じた価値を守ることが信頼されない企業は、製品を広く採用してもらううえで課題に直面することになるでしょう。
