人工知能は社会をより平等にできる。その方法とは

人工知能は、社会における最も重要な制度の中で、重大な結果を伴う意思決定において、ますます中心的な役割を担うようになっています。人工知能は病院や裁判所、雇用機関にも導入され、誰が保険に加入できるか、誰が保険に加入できるか、誰が仮釈放を認められるか、そして誰が採用されるかを判断しています。多くの場合、AIの活用は、人間の意思決定に内在する誤りや偏見を克服し、効率と有効性を高めることを目的としています。しかし、アルゴリズムの偏り――アルゴリズムが開発者の先入観や入力データの偏りを取り込むこと――は、差別を是正するどころか、助長するおそれがあります。

認識すべきなのは、アルゴリズムは中立ではないということです。アルゴリズムは、計算に含まれるデータや前提を反映します。偏ったデータをアルゴリズムに入力したり、既存の社会的偏見を反映する要素を優先したりすれば、差別的な結果につながります。アルゴリズムは特定の要素を優先し、観測変数や潜在変数から統計的パターンを特定したうえで、「これなら、こうなる」という結論を導きます。特定の要素が結果を予測する適切な指標であり、過去の傾向が繰り返されると仮定することで、アルゴリズムは自己強化型の偏りを示すことがあります。データや計算に過剰に、過少に、あるいは誤った形で反映されている人々については、その人々に代わって下される決定が不平等を固定化しかねません。

― ペドロ・ドミンゴス著『The Master Algorithm』

具体例として、犯罪予測モデルと医療保険のリスク予測を見てみましょう。犯罪予測モデルは、日付、時刻、場所などの過去の犯罪記録を使い、犯罪が発生しやすい場所を予測します。少数派や低所得層の地域は、裕福な白人居住地域よりも警察の監視対象になってきた可能性がはるかに高いため、犯罪予測の中核となる過去の犯罪データは偏った状況を示し、警察の巡回がより頻繁だった地域で犯罪率が高いという結果を生み出します。その結果、犯罪予測は、少数派や低所得層の地域への監視を継続させることで、人種による偏見を助長するおそれがあります。

医療保険の場合、保険会社は今や、個人の将来の健康リスクを予測できます。購買履歴や近隣住民の健康状態など、従来とは異なる何千もの「第三者」データを組み合わせるのです。こうしたデータは保険会社にとってリスクを正確に予測できるかもしれませんが、リスクの高い人が支払えない保険料を課されたり、補償を全面的に拒否されたりする可能性もあります。医療面で構造的な課題に直面してきた地域に暮らす人々にとって、こうした予測モデルは健康格差を固定化しかねません。

AIが社会的、政治的、経済的な権利に影響する重大な決定にますます活用される中、こうしたシステムが、公正さ、説明責任、透明性の原則を守る形で構築・運用されるようにすることが不可欠です。これらの原則をAIに組み込むための方法は二つあります。それにより、意思決定の効率だけでなく、公平性も高めることができます。

「社会システム分析」を適用する

広く言えば、価値判断を含むデータを取り込み、主観的な要素を優先することで、偏りがアルゴリズムに入り込みます。不完全で標準化されていないデータセットや、不適切な測定ツールを使って収集されたデータセットは、現実を誤って映し出すことがあります。また、長年の社会的不平等を反映するプロセスから収集されたデータは、その不平等を固定化する可能性が高いでしょう。

たとえば、白人男性を採用・昇進させる傾向のあった業界のデータセットで学習したアルゴリズムは、他の候補者よりもこうした人々を体系的に優先する結果をもたらす可能性があります。データや前提を、「社会システム分析」の手法で分析することで――開発者が、AIシステムの学習データに対する構造的な社会的不平等の影響を問い、是正する方法です――偏りを早い段階で特定・修正し、AIを通じて差別が定着するリスクを減らせる可能性があります。次の提言は、多様性に富むチームほど偏りを特定しやすいということです。

Image: ロイター／レモ・カシッリ

あらゆる段階で多様性を取り入れる

AIのプロセスでは、設計や導入から、意思決定への影響を検証する段階まで、あらゆる段階で多様性を取り入れるべきです。研究によると、累積IQにかかわらず、多様性に富むチームは問題解決の効率が高いことが示されています。AIを活用した意思決定の設計、適用、その影響の評価において包摂性に明確に配慮すれば、意図せぬ差別的影響を最小限に抑えられるだけでなく、社会的、経済的、政治的な包摂を促進する原動力として、AIの設計と適用を進めることにもつながります。

人工知能はいま、転換点を迎えています。その開発と活用は、気候変動、食料不安、医療、教育といった世界的課題に、前例のない恩恵をもたらす可能性があります。しかし、より差別的な経済や社会ではなく、より公平なデジタル経済と社会につながるよう、その活用を慎重に管理しなければなりません。