医療における過去のアルゴリズムの偏りは、データの公平性が極めて重要であることを示しています。
ある研究によると、医療における人種的偏見を是正すれば、追加ケアを受ける黒人患者の割合は17.7%から46.5%に増える可能性があります。
現在、新たな枠組みが、世界経済フォーラムのデータ公平性に関するグローバル・フューチャー・カウンシルによって策定され、さまざまな業界でより公平なデータシステムの構築を導いています。
データに基づく意思決定がますます世界を形づくる時代において、こうしたシステムの公平性を確保することは、かつてないほど重要です。AIモデルやその他のデータシステムの訓練は、最新のデータシステムの出力に過去の偏見を引き継がせてきた場合があります。
世界経済フォーラムのデータ公平性に関するグローバル・フューチャー・カウンシルの報告書は、データの公平性を定義し、実現するための新たな枠組みを提案しています。新たなテクノロジーが古い偏見を引き継ぐリスクへの対応策です。
医療アルゴリズムに潜む偏見
そうした偏見を示す衝撃的な例として、米国の医療制度で使われていたアルゴリズムの分析があります。調査により、このアルゴリズムが複雑なケアを必要とする黒人患者を組織的に不利な立場に置いていたことが明らかになりました。
根本原因は、アルゴリズムの訓練に使われたデータにありました。そのデータには、所得格差や医療へのアクセスを妨げるその他の障壁により、黒人患者が歴史的に費用の低い治療を受けてきた事実が反映されていました。
この偏見を是正すれば、追加ケアを受ける黒人患者の割合は17.7%から46.5%に増える可能性があると、研究は結論づけました。この事例は、意思決定プロセスにおけるこうした偏見をなくすため、厳格なアルゴリズム監査と分野横断的な連携が極めて重要であることを示しています。
データの公平性を定義する：共有される責任
現在、データの公平性について世界的に合意された基準や定義はありません。偏見の問題解決に向けて前進するため、フォーラムのデータ公平性に関するグローバル・フューチャー・カウンシルは、包括的な定義をまとめました。
「データの公平性とは、人権、機会、尊厳を尊重し促進する公正なデータ慣行に対する共有責任と定義できます。データの公平性は基本的な責任であり、データに基づくシステムがすべての個人、集団、コミュニティに公正で正義にかなった有益な成果をもたらす世界を築くため、戦略的で参加型、包摂的かつ先を見越した、集団的で協調的な行動を必要とします。この定義は、データの収集、整理、処理、保持、分析、管理から、そこから得られた知見の責任ある活用に至るまで、データ慣行が人権、ひいては社会的、経済的、自然的、文化的資源や機会へのアクセスに大きな影響を与えることを認識しています。」
この定義は、重要な点を示しています。データの公平性は、単に数字の問題ではありません。その数字が実際の人々の暮らしにどう影響するかという問題です。データの収集や処理から、その利用方法、そしてそこから得られる知見によって誰が恩恵を受けるかまで、データの全過程を包括します。
世界経済フォーラムは、人工知能に関するガードレールをどのように構築しているのでしょうか？
AI卓越センターは、急速に進化する人工知能と、それが経済や社会に与える影響について理解を深めるため、さまざまな分野のリーダーをつなぎます。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援します。
信頼できる場や協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に責任ある形で取り組めるよう支援します。
実施に向けた枠組み
データの公平性を実現するには、体系的な取り組みが必要です。グローバル・フューチャー・カウンシルが策定したデータ公平性の枠組みは、内省、調査、行動のためのツールです。データ、人々、目的という3つの主要な柱で構成されています。
この枠組みの3つの中核的な柱は、次のとおりです。
データの性質：この柱では、情報がどれほど機微であるか、誰がアクセスできるかに焦点を当てます。たとえば、医療記録は非常に機微な情報であり、厳重な保護が必要です。
データ利用の目的：この柱では、信頼性、価値、独自性、活用方法などの要素を検討します。データは倫理的に利用されていますか？社会に真の価値をもたらしていますか？
関係者：この柱では、データの収集者、処理者、対象者の関係と、データの取り扱いに伴う責任を扱います。また、データを扱う人々の専門性、そして何より、その利用について誰が責任を問われるのかも検討します。
理論を実践に移す
先に挙げた、医療データに問題があった事例に立ち返ると、これらの原則をどのように適用できるかが分かります。グローバル・フューチャー・カウンシルの報告書には、偏見を取り除くための初期的な提言として、以下が示されています。
入力段階：健康状態を直接測る指標や、医療へのアクセスを妨げる障壁など、より包括的な健康データを収集する。代理指標による差別の可能性がないか、入力変数を監査する。
処理段階：データ収集とアルゴリズムによるスコアリングのプロセスにおいて、透明性を維持する。
出力段階：人種グループごとに、アルゴリズムによる意思決定が患者の転帰に与える影響を定期的に監査する。偏見を含む、または誤っている可能性のある予測を臨床医が指摘できるようにする。
今後の道筋
より公平なデータシステムの構築は、一度きりの修正で済むものではありません。あらゆる段階での監視と協働、そして公平性への継続的で揺るぎない取り組みを必要とする、終わりのない道のりです。医療アルゴリズムにおける人種的偏見への対応から得られる教訓は、他の分野でデータの公平性に取り組む際にも活かすことができ、また活かすべきです。
寄稿者：サイモン・トーキントン、フォーラム・アジェンダ、シニアライター、およびステファニー・テーウェン、世界経済フォーラム第四次産業革命センター、データ政策・AIスペシャリスト。
