この記事は世界経済フォーラムの地政学プラットフォーム
人工知能における無意識のバイアスをめぐる議論では、意図せずに社会の広範な層に不均衡な害を及ぼすアルゴリズムが取り上げられることが多い。たとえば、黒人の被告が将来罪を犯すと誤って予測するものや、主に白人男性の写真を使って開発され、女性や肌の色が濃い人々を識別するのが不得意な顔認識技術などである。
しかし、問題はそれよりもはるかに深刻な可能性がある。社会は、別の展開にも警戒すべきである。つまり、悪意ある行為者が、人工知能システムに意図的にバイアスを持ち込むことで攻撃を仕掛ける可能性であり、そのバイアスはシステムの学習を支えるデータに紛れ込まされる。これは、サイバー攻撃、偽情報キャンペーン、あるいはフェイクニュースの拡散に、憂慮すべき新たな側面をもたらしかねない。
米国政府によるビッグデータとプライバシーに関する調査（PDF）米国政府によるビッグデータとプライバシーに関する調査（PDF）によれば、バイアスのあるアルゴリズムは、差別的な融資、採用、その他の好ましくない商慣行を隠蔽することを容易にしかねない。アルゴリズムは、一見無害に見えるが差別につながりうる要因を利用するよう設計されうる。既存の手法を用いても、バイアスのあるデータやアルゴリズムを使えば、悪意ある意図を隠すことがより容易になりうる。商用データブローカーは、オンラインの閲覧履歴や買い物の習慣など、あらゆる種類の情報を収集・保持しており、こうした形で利用されうる。
データを餌として
バイアスのあるデータは、餌としても機能しうる。企業が、競合他社がそれを用いて人工知能アルゴリズムを学習させることを期待して、バイアスのあるデータを公開する可能性がある。その結果、競合他社は自社製品の品質と、それに対する消費者の信頼を損なうことになりかねない。
アルゴリズムのバイアスを狙った攻撃は、イデオロギー的な目的をより容易に推進するためにも利用されうる。ヘイトグループや政治的な提唱団体が、人種、性別、宗教、その他の特性に基づいて人々を標的にしたり排除したりしようとする場合、バイアスのあるアルゴリズムは、その正当化の根拠や、そのような行為を直接行うためのより高度な手段を与えかねない。また、バイアスのあるデータは、人種的な分離（「レッドライニング」）を固定化したり、投票権を制限したりする選挙区再編の取り組みにおいても作用しうる。
最後に、外国の行為者による国家安全保障上の脅威が、政府の正統性を損なったり、国民の分極化を助長したりすることによって社会を不安定化させるために、意図的なバイアス攻撃を利用する可能性がある。これは、人種的緊張をあおるように設計されたソーシャルメディアへの投稿やオンライン広告の購入によって、イデオロギー的な対立を悪用しようとしていると報じられている戦術と自然に合致するものである。
アルゴリズムによる意思決定に意図的なバイアスを注入することは、驚くほど単純かつ効果的でありうる。これは、バイアスを生み出す既存の要因を複製または加速させることを含みうる。多くのアルゴリズムは、すでにバイアスのあるデータを与えられている。攻撃者は、そこに含まれるバイアスを承知の上で、そのようなデータセットを引き続きアルゴリズムの学習に用いる可能性がある。これによって生じる言い逃れの余地こそが、これらの攻撃を非常に陰湿で、潜在的に効果的なものにしている。攻撃者は、テクノロジー業界におけるバイアスへの注目の波に乗り、多様性と包摂性をめぐる分極を激化させることになるだろう。
汚染されたアルゴリズム
学習データを改ざんしてアルゴリズムを「汚染する」という考え方は、決して目新しいものではない。米国の最高位の情報当局者は、サイバー攻撃者がひそかにデータにアクセスし、その後データを改変して完全性を損なう可能性があると警告してきた （PDF）。悪意ある意図を立証することは、それに対処し、ひいては抑止するうえで大きな課題となるだろう。
しかし、動機は問題の本質ではないかもしれない。いかなるバイアスも懸念すべきものであり、社会インフラの完全性における構造的な欠陥である。政府、企業、そして個人は、バイアスを持ち込みかねない多様な方法で、データの収集と利用をますます強めている。
これが示唆するのは、バイアスは体系的な課題であり、全体的な解決策を必要とするということである。人工知能における意図しないバイアスへの解決策として提案されているのは、労働力の多様性を推進し、多様な学習データへのアクセスを拡大し、アルゴリズムの透明性（アルゴリズムがどのように結果を生み出すかを見ることができる能力）を組み込むことである。
これらの考え方を実行に移す動きもある。学界および業界の専門家は、技術的バイアスに対処する立法上の監督を求めてきた。テクノロジー企業は、労働力を多様化し、無意識のバイアスに関する研修を提供することで、自社製品における無意識のバイアスに対処することを約束している。
歴史を通じた技術の進歩と同様に、私たちはアルゴリズムを社会にどのように導入し、どのような結果をもたらすのかを検討し続けなければならない。アルゴリズムを開発する人々や、それを学習させるために用いられるデータにおけるバイアスを特定し、対処することは、人工知能システムが、それを悪用しようとする者だけでなく、私たち全員の利益になるようにするうえで大きく前進することになるだろう。
意図的なバイアスは、人工知能が私たちに害をもたらしうるもう一つの道である、ダグラス・ヤン、ランド研究所
