人工知能システムは、企業や政府にとって、データを処理し、変化する状況に対応するための強力なツールです。それが株式市場や戦場であれ、変化する状況に対応するための強力なツールです。しかし、AIがまだ対応できない事柄も存在します。
私たちはの学者であり、 コンピュータサイエンス を理解し、アルゴリズムが社会とどのように相互作用するかを改善することに取り組んでいます。AIシステムは、目標が明確で高品質なデータがある場合に最もよく機能します。例えば、正しく識別された多数の人物の写真から学習した後、異なる顔を見分けるよう求められる場合がこれに当たります。
AIシステムがあまりにもうまく機能するため、ユーザーや観察者は、その洞察力の高さに驚くことがあります。しかし、成功を測定することが難しい場合や、誤って定義されている場合、または学習データが目の前の課題と一致しない場合もあります。こうした場合、AIアルゴリズムは予測不能で劇的な形で失敗する傾向がありますが、何かが誤っていたことすら、すぐには明らかでないことが多いのです。そのため、AIにできることについての誇大な宣伝や熱狂に注意を払い、AIが導き出した解決策が常に正しいと想定しないことが重要です。
アルゴリズムが稼働している場合、人々に害を及ぼさないよう、人間による安全網が存在すべきです。私たちの研究では、一部の状況において、アルゴリズムが自らの動作上の問題を認識でき、人間に助けを求めることが示されました。具体的には、人間に助けを求めることが、一部の状況においてアルゴリズムのバイアスを軽減するのに役立つことを示しています。
アルゴリズムはどれほど確信を持っているのか？
人工知能システムは、次のような分野で使用されています：刑事量刑、顔に基づく性格プロファイリング、履歴書の選別、医療保険への加入手続きなど、人々の生命や福祉がかかっている困難な業務です。米国政府機関は、ドナルド・トランプ大統領による最近の大統領令を受けて、AIシステムの調査と利用を本格化させ始めています。
ただし、AIは業務の進め方に関する誤解を固定化したり、既存の不平等を拡大させたりする可能性があることを忘れてはなりません。これは、誰もアルゴリズムに対して特定の人を別扱いするよう明示的に指示していない場合でも起こり得ます。
例えば、多くの企業は、顔からその人の特徴を判断しようとするアルゴリズムを持っています。たとえば、性別を推定することなどがそれに当たります。米国企業が開発したシステムは、白人男性を分類する場合に、女性や肌の色が濃い人々を分類する場合よりも大幅に優れた結果を出す傾向があります。最も精度が低いのは、肌の色が濃い女性です。一方で、中国で開発されたシステムは、白人の顔に対してより低い精度しか出ない傾向があります。
これは、一方のグループの顔が他方より分類しやすいからではありません。むしろ、両方のアルゴリズムは、通常、人間の全体的な人口ほど多様ではないデータの大規模な集合を用いて学習されています。データセットが特定のタイプの顔によって占められている場合、つまり米国では白人男性、中国では中国人の顔が多い場合、そのアルゴリズムは、おそらくそれらの顔の分析に、それ以外の顔よりも優れるでしょう。
その差が生じる理由にかかわらず、結果として、アルゴリズムは、ある集団に対して別の集団よりも精度が高くなることで、偏りを持つ可能性があるということです。
AIに対する人間の目による監視
重大な影響を伴う状況では、アルゴリズムが自らの結果に対して持つ確信度、すなわちシステムが正しい答えを導き出した可能性の推定値が、結果そのものと同じくらい重要です。アルゴリズムから出力を受け取る人々は、コンピュータが関わっているという理由で正しいと想定するのではなく、その結果をどの程度真剣に受け止めるべきかを知る必要があります。
研究者が、アルゴリズムとデータにおける不平等を特定し、まして是正する方法を開発し始めたのは、ごく最近のことです。アルゴリズムは、自らの欠点を認識し、その認識に続いてその タスクを支援する人への依頼を行うようプログラムすることができます。
多くの種類のAIアルゴリズムは、すでに内部の確信度を算出しています。これは、特定の入力データをどの程度うまく分析できたかの予測値です。顔分析において、多くのAIアルゴリズムは、白人男性の顔に比べて、肌の色が濃い顔や女性の顔に対して確信度が低い傾向があります。それは 不明確です。これらのアルゴリズムを重大な影響を伴う用途で用いる際に、法執行機関がこの点をどの程度考慮に入れてきたのかは、明らかではありません。
目標は、AI自身が、異なる集団に対して同じ精度に達していない領域を特定することです。こうした入力については、AIは判断を人間のモデレーターに委ねることができます。この手法は、コンテンツモデレーションのように、文脈の比重が大きい業務に特に適しています。
人間のコンテンツモデレーターは、対応しきれないほどの量の画像がソーシャルメディアサイトに投稿されています。しかし、AIによるコンテンツモデレーションは、投稿の背後にある文脈を考慮できないことで知られています。たとえば、性的指向に関する議論を露骨なコンテンツと誤認したり、独立宣言をヘイトスピーチと誤認したりすることがあります。その結果、ある属性の人々や政治的集団の投稿を、別の集団よりも不当に検閲してしまうことがあります。
双方のメリットを得るために、私たちの研究では、現在一般的に使われている同じAI手法を用いて、すべてのコンテンツを自動的に評価することを提案しています。そのうえで、私たちのアプローチは、新たに提案された技術を用いて、異なる保護対象の集団に対するアルゴリズムの精度における潜在的な不平等を自動的に特定し、特定の個人に関する判断を人間に引き渡します。その結果、アルゴリズムが実際に判断を下す人々については、完全に偏りのない判断が可能になります。そして、アルゴリズムによる判断では必然的に偏りが生じてしまう個人については、人間が判断を行います。
このアプローチは偏りを排除するものではありません。むしろ、偏りの可能性を「集中」させ、より少数の判断に限定し、その判断を人間の常識を用いて人間が行うようにするものです。AIは依然として、意思決定作業の大部分を担うことができます。
これは、AIアルゴリズムが人間と協働することで、AIによる優れた判断の利点と効率性を享受しつつ、その不適切な判断に縛られずに済む状況の実証です。人間は、公平性と衡平性を確保するうえで重要な、曖昧で難しい判断に取り組む時間をより多く持てるようになります。
