AIの力や、AIがいかに私たちの世界を変えるかについての新しい記事が出ない日はほとんどない。しかし、可能性と並んで危険もある。AIが眼疾患やがんの診断に革命をもたらすという構想や、自動運転車がもたらすと約束される交通の革新に、私たちは正当にも胸を躍らせるべきだが、リスクを無視すべきではない。そして、その中で最も差し迫ったものの一つがバイアスである。
殺人的なタイムトラベルロボットとは異なり、AIのバイアスは次のハリウッド大作の題材になりそうにない。それでも、それは潜在的に非常に大きな問題である。
AIはどのようにバイアスを持ちうるのか？
AIアルゴリズムが完全に感情がなく中立であると想像するのは安心材料になるが、それは単に真実ではない。AIプログラムは規則に従うアルゴリズムで構成されている。それらには規則を教える必要があり、これはアルゴリズムにデータを与えることで行われる。アルゴリズムはそのデータを用いて隠れたパターンや不規則性を推論する。訓練データが不正確に収集されていると、誤りや不当な規則がアルゴリズムの一部となり得、その結果、偏った結果を招きうる。
日常的な例としては、次のようなものがあるかもしれません 非白人に対して精度の低い顔認識ソフトウェア、または女性の声を男性ほど正確に認識しない音声認識ソフトウェア。さらに懸念されるのは、信用情報機関や仮釈放委員会が用いるAIにおける人種差別の主張。
信用情報機関が用いるアルゴリズムは、既存の信用格付けのデータや、特定の集団の返済記録に基づいて開発されている可能性がある。あるいは、インターネット上で広く入手可能なデータ、例えば個人のソーシャルメディア上の行動や、居住地域の一般化された特徴を用いるかもしれない。たとえデータソースのうち少数でも偏りがあったり、性別、人種、肌の色、民族に関する情報が含まれていたり、すべての利害関係者を平等に代表していないデータを収集したりした場合、私たちは知らず知らずのうちにAIにバイアスを組み込んでしまう可能性がある。
AIに、高位の役職の大半が男性で占められていることを示すデータを与えると、たとえそれが基準でなくとも、突然AIは企業が男性を採用しようとしていると学習してしまう。質の低いデータセットでアルゴリズムを訓練すると、女性はC-suite（経営幹部）職に不向きであるとか、貧しいZIPコード地域出身のマイノリティは犯罪を犯しやすいといった結論につながりかねない。
基礎統計学から分かるように、二つの特性の間に相関関係があったとしても、一方が他方を引き起こすとは限らない。これらの結論は妥当ではない可能性があり、その結果として個人が不利益を被るべきではない。むしろ、これはアルゴリズムが不適切に収集されたデータで訓練されたことを意味しており、修正されるべきである。
幸いなことに、これらのバイアスがAIに形成されるのを防ぐために取りうる重要な措置がいくつかある。
1. バイアスへの認識
AIにバイアスがありうることを認めることが、極めて重要な第一歩である。ロボットは感情を持たないからAIにバイアスはないという見方は、バイアスに取り組むために必要な措置を取ることを妨げる。自らの責任と行動する能力を無視することも、同じ効果をもたらす。
2. 動機づけ
認識はある程度の変革への動機を与えるが、それだけでは全員にとって十分ではない。消費者向けに製品を開発する営利企業は、バイアスを回避し包括的な製品を作る経済的インセンティブを持つ。例えば、X社の最新スマートフォンの音声認識が正確でなければ、不満を持った顧客は競合他社へ行くだろう。それでも、費用便益分析の結果、一部のユーザーを差別する判断につながることもありうる。
これらの経済的動機が存在しない集団に対しては、別の動機の源を生み出すために外部からの圧力を与える必要がある。政府機関におけるバイアスのあるアルゴリズムの影響は、数百万人の市民の生活に不当な影響を及ぼしうる。
また、複数のパートナーがAIを展開する状況において、誰が責任を負うのかを明確にするガイドラインも必要である。例えば、民間で開発され、別の当事者によって再パッケージ化されたソフトウェアに基づく政府のプログラムの場合である。ここで誰が責任を負うのか。誰もが責任を転嫁し合う終わりのない循環に陥る事態を避けなければならない。
3. 質の高いデータの使用を確保する
バイアスのあるAIアルゴリズムから生じる問題はすべて、汚染された訓練データに根ざしている。データの収集方法や、アルゴリズムに投入するデータにバイアスを持ち込まないようにできれば、これらの問題を回避する上で大きな一歩を踏み出したことになる。例えば、多様で均等に代表されたユーザーやアクセントに基づいて音声認識ソフトウェアを訓練すれば、マイノリティが排除されないよう確保できる。
AIが安価で容易に入手できるデータで訓練される場合、バイアスの有無を検証されない可能性が高い。データは完全に代表的ではない情報源から取得された可能性がある。代わりに、バイアスの導入を抑える方法で収集された質の高いデータに基づいてAIを構築するよう確保しなければならない。
4. 透明性
AI Now イニシアチブ は、公共機関がアルゴリズムやその結論に至る過程を説明できない場合、そのアルゴリズムは使用されるべきではないと考えている。このような状況では、バイアスや不公平な判断がなぜ生じているのかを特定し、人々に出力へ疑問を呈する機会を与えることができる。その結果、問題に適切に対処するために用いることのできるフィードバックを提供できる。また、責任を負う者に説明責任を持たせ、企業が責任を放棄することを防ぐ助けにもなる。
AIが紛れもなく強力で、社会を計り知れないほど助けうる可能性を持つ一方で、私たちは平等に対する責任を、全知全能であると見なされるAIアルゴリズムという幻影に押し付けることはできない。バイアスは意図せずに忍び込むことがあるが、それでも私たちは、それらを緩和し防止するための行動を取ることができる。そのためには、認識、動機、透明性、そして適切なデータを使用することの確保が必要である。
