人工知能（AI）が世界にもたらしうる機会は、病気の治療法の発見で毎年何百万人もの命を奪う病気を大幅に減らすことから、炭素排出量の削減に至るまで、日々拡大しています。これには、膨大な量のデータから機械が学習し、その学びを活用して予測を行う能力を利用する、AIの一分野である機械学習が含まれます。機械学習（ML）は、すでに次のような分野への道を切り開いています：金融包摂、市民参加、より手頃な価格の医療、そしてその他多くの重要なシステムやサービスです。MLシステムは、オンラインでの行動に基づいて、あなたのFacebookのニュースフィードに投稿を優先表示したり、採用過程で応募者を選考したりすることがあります。MLは人類が生み出した最も強力なツールの一つであり、その力を善のために活用する方法を学ぶことが、これまで以上に重要になっています。
世間の関心は、人類に対して人工超知能がもたらす存亡の脅威（「ロボットが我々を殺しにやってくる」）か、その正反対の救済の物語（「AIがあらゆる問題を解決する」）のいずれかに集中しがちです。しかし、機械が意思決定を行う際には、より差し迫っており、目に見えにくいリスクがあります。それは、体系的な偏見や差別が強化される可能性です。ML技術は、すでに日々、人間の人生を大きく左右する決定を下しています。ジム・ドワイヤーは『ニューヨーク・タイムズ』紙で次のように書いています：ニューヨーク・タイムズ：「アルゴリズムは次のことを決定しうる子どもたちがどの学校に通うか、ごみの収集頻度、どの警察管区に最も多くの警官を配置するか、建築基準法の検査をどこに重点的に行うべきか、さらには教師を評価するために用いられる指標まで決定しうる。」
差別しないことを学習させる
機械に重要な意思決定の権限を与え、誰が重要な機会にアクセスできるかを決めさせるにあたり、私たちは差別的な結果を防ぐ必要があります。結局のところ、機械学習は単なるツールにすぎません。その責任は、それを賢明に使う人々、とりわけ企業のリーダーからシステムエンジニアに至るまで、その進歩を先導する人々にあります。言い換えれば、MLアプリケーションは、ビジネスの効率を向上させるだけでなく、人権を促進し保護する形で設計・利用する必要があります。技術を用いて意思決定を自動化することは、新しい慣行ではありません。しかし、ML技術の性質――その遍在性、複雑性、排他性、不透明性――は、機会への不平等なアクセスに関する長年の問題を増幅させかねません。機械学習における差別的な結果は、人権を損なうだけでなく、その技術を用いる企業に対する公衆の信頼の低下にもつながりかねません。私たちは、差別がMLシステムに入り込みうる経路を評価し、そのうえでこれらのシステムが差別しないことを「学習」するよう仕向けることで、これらのリスクに対処しなければなりません。
機械が差別することを学習するとどうなるか？
機械学習における差別について私たちが耳にしてきた事例の多くは、米国と欧州から報告されています。例えば、Googleフォトの仕組みが、黒人の友人二人の画像を誤ってゴリラとラベル付けした事例や、人種的偏見を増幅させることが示された予測型取り締まりツールなどは、広範かつ重要なメディア報道を受けてきました。世界の多くの地域、特に中所得国や低所得国では、差別を防ぐための十分な予防措置を講じることなくMLを用いて意思決定を行えば、広範囲に及び、長期にわたり、場合によっては不可逆的な影響をもたらす可能性が高いと考えられます。例えば、次のいずれの事例も挙げられます：
・インドネシアでは、経済発展が地理的（そして、その結果として民族的）な境界に沿って不均等に進んできました。高等教育へのアクセスは国内でほぼ均一ですが、上位10大学はすべてジャワ島にあり、これらの大学に通う学生の大多数はジャワ出身です。ホワイトカラー分野で採用を行う企業が、学歴などの要素に基づいて応募者を選別するMLシステムを訓練する際、パプア島のような貧しい島々の出身者を体系的に排除してしまう可能性があります。
・現在では、保険会社が個人の将来の健康リスクを予測する方法が存在します。メキシコは、多くの人々にとって質の高い医療が民間保険を通じてしか利用できない国の一つです。メキシコで事業を展開する少なくとも二つの民間の多国籍保険会社が、効率性と収益性を最大化するためにMLを活用しており、適切な医療への公正なアクセスという人権に影響を及ぼす可能性があります。例えば、保険会社がMLを用いて買い物履歴などのデータを解析し、高リスクの顧客に共通するパターンを見つけ出して、その顧客により高い保険料を課すという状況を想像してみてください。最も貧しく、最も病弱な人々が、医療サービスを受ける余裕を最も持てなくなるでしょう。
・詳細はほとんど公開されていないものの、報道によれば、中国は銀行、税務、職業上および業績に関する記録から、スマートフォン、eコマース、ソーシャルメディアの情報に至るまで、幅広いデータを分析して市民を採点するモデルを開発しているとされています。ワシントン・ポスト紙は、これを「共産党が定めた道徳的権威を強制するためにデータを利用する試み」と表現しています。将来、政府が不完全であったり歴史的に偏りのあるデータを用い、公正性を念頭に構築されていないモデルで算出されたスコアに基づいて行動した場合、何を意味するのでしょうか？
これらの事例は、機械学習が世界に大きな恩恵をもたらしうる一方で、考慮すべき重要なリスクも存在することを示しています。私たちは、差別がMLシステムに忍び込みうる経路を注意深く検討するとともに、企業がこれを防ぐためにできることを検討する必要があります。
クラウス・シュワブが著書『第四次産業革命』で主張するように、第四次産業革命、私たちは「人々を第一に据え、人々に力を与え、これらすべての新しい技術が何よりもまず人々によって人々のために作られたツールであることを絶えず思い起こさせることで、すべての人のために機能する未来を形づくる」ことを目指して協力したいと考えています。であるならば、私たちは差別を助長するのではなく防ぐために、機械学習を設計し活用する必要があります。
機械学習における差別的な結果を防ぐ方法。完全版レポートはこちらからダウンロードできます。
