AIを機械任せにできない理由

• 機械が私たちの人生に関する意思決定にどの程度使われているかについて、多くの人はいまだに認識していません。

• そうした機械は、偏った情報をもとに判断するため、偏った決定を下してしまうことがあまりにも多くあります。

• リスクをより深く理解すれば、その影響を軽減し、約束された恩恵をAIがもたらすようにできます。

「自分の書類は機械にチェックしてもらいたい。機械は私を差別しないからだ」と、EU基本権機関（FRA）が「自動化された国境管理」に関する見解を尋ねた際、多くの人がそう答えました。自動化された国境管理に関する見解。

2015年当時、人工知能（AI）の活用は始まったばかりでした。

そして2023年になると、AIはあらゆる場面で使われています。Netflixで何を見るかを提案し、ワクチンの開発を支援し、最も優れた職務経歴書を持つ求職者を選び出します。

しかし、一つ変わっていないことがあります。機械が私たちの人生に関する意思決定にどの程度使われているかについて、多くの人はいまだに認識していないということです。さらに、そうした機械は差別を行いうるのです。理論上だけでなく、実際にもそうなのです。

社会福祉

その最もひどい例として、何千もの無実の家族が不正の嫌疑をかけられ、受け取っていた社会給付金の返還を強いられました。これらの家族の多くは少数民族に属していました。彼らは、その出自だけを理由に、アルゴリズムによって標的にされたのです。貧困に追い込まれ、中には住居を失い、子どもの世話を続けられなくなった人もいました。

報告書「排外主義的な機械」において、アムネスティ・インターナショナルは、この事例で技術の利用がいかに容易に差別につながったかを記録しています。一方、国際連合は、各国政府に対し、デジタル福祉のディストピアへ、ゾンビのように無自覚に陥ることを避けるよう強く求めています。

警察活動

しかし問題はデジタル福祉だけではありません。AIの利用は、医療、教育、福祉、警察活動など、ほかの多くの分野でも問題を提起しています。

例えば、欧州のいくつかの国の当局は、過去のデータに基づいて住居侵入窃盗を予測するシステムを開発しています。アルゴリズムの助けを借りて、この技術は同様の犯罪が将来いつ、どこで起こりそうかを算出します。こうした予測に基づき、より多くの警察のパトロールを配置することができます。

こうしたAIを活用したツールの問題は、偏っている可能性のある過去の犯罪データに依存していることです。例えば、欧州の警察は、ほかのどの層よりも若い黒人男性を頻繁に呼び止めていることを示す調査があります欧州の警察は、ほかのどの層よりも若い黒人男性を頻繁に呼び止めている。呼び止めが増えれば記録も増えます。その記録が機械に入力されると、機械は特定の地域へ警察を派遣し続けることになります。そしてこれは、実際の犯罪発生率とは無関係かもしれません。

攻撃的な発言の検出

同様に、オンライン上の攻撃的な発言を検出する際、アルゴリズムが誤った情報を生成することがあります。EU基本権機関がヘイトスピーチの自動検出モデルを検証したところ、そうしたアルゴリズムは完全に信頼できないことがすぐに判明しました。「私はユダヤ人です」や「私はムスリムです」といった無害な表現が、攻撃的だとしてフラグを立てられることがあります。一方で、攻撃的な内容は容易にすり抜けてしまうこともあります。アルゴリズムは中立ではない既存のデータセットを用いて動作するためです。EU基本権機関が自動ヘイトスピーチ検出を検証したことで、これらのアルゴリズムは完全に信頼できないことが判明しました。

これは、たとえ善意に基づいていても、偏りが最初からアルゴリズムに組み込まれてしまうことが非常に起こりやすいことを、改めて示しています。

解決策に向けて

自分が理解していない技術に、自分や子どもたちの命を委ねますか。その方向性を予測できない技術にですか。私は委ねません。それは暗いディストピアの未来であり、私たちがそこへ向かう必要はありません。

これはAIの利用をやめるべきだという意味ではありません。アルゴリズムがどのように機能し、どのように偏りが生じうるかを、はるかによく理解する必要があるという意味です。AIは中身の見えないブラックボックスであり、驚くべき速さで自由に動かしておけばよいという説明で満足することはできません。

代わりに、私たちは透明性を求めなければなりません。人間はAIの監視に深く関わり続け、その利用文脈においてアプリケーションを常に検証する必要があります。AIは想像しうるあらゆる人権に影響を及ぼしうるからです。表現の自由や集会の自由から、移動の自由やプライバシーに至るまでです。そして、それらの権利が危険にさらされていないかどうかを、私たちは知る必要があるのです。

リスクをより深く理解すれば、その影響を軽減し、約束された恩恵をAIがもたらすようにできます。

この目的のため、私が率いる機関は、技術開発者、政府機関、規制当局、立法者に向けて、次のような複数の提言を発表しています。

1. AIがすべての人権を尊重するよう徹底する：AIは、プライバシーやデータ保護だけでなく、多くの人権に影響を及ぼしうります。今後のAI関連法制は、このことを考慮し、実効性のある保護措置を設ける必要があります。

2. AIの影響を評価し、偏りを検証する： 組織は、AIがどのように人権を侵害し、差別を可能にしうるかについて、さらなる調査と評価を行うべきです。加えて、アルゴリズムは当初から偏りを持つ場合や、時間の経過とともに偏りが生じる場合があるため、偏りを検証しなければなりません。こうした偏りは広範囲に及びうるため、性別、宗教、民族的出自を含め、差別の根拠となるあらゆる事由を考慮する必要があります。

3. 機微なデータに関する指針を提供する：潜在的な差別を評価するためには、民族や性別など、保護対象となる属性に関するデータが必要になる場合があります。そのため、こうしたデータをいつ収集することが許されるかについて、指針が必要です。そのデータ収集は正当化され、必要であり、かつ実効性のある保護措置を伴う必要があります。

4. 実効性のある監督体制を構築する：AIを利用する際に、企業および公的機関に説明責任を負わせるため、統合された体制が必要です。監督機関は、その任務を果たすための十分な資源と能力を備えている必要があります。極めて重要なのは、透明性と実効性のある監督には、偏りのリスクを特定し、それに対処するためのデータおよびデータ基盤へのアクセスの改善が求められることです。

5. AIによる決定に人々が異議を申し立てられることを保証する：人々は、AIが使用されているかどうか、どのように使用されているか、そして苦情をどこでどのように申し立てればよいかを知る必要があります。AIを利用する組織は、自らのシステムがどのように意思決定を行うかを説明できる必要があります。

人権が進歩を妨げているという神話を払拭すべき時が来ています。私たちは人権とイノベーションの間でバランスを取る必要はありません。これはゼロサムゲームではないのです。

人権をより尊重することは、より信頼できる技術を意味します。より信頼できる技術は、より魅力的な技術です。長期的には、それこそがより成功する技術になるでしょう。

これを正しく実現できれば、驚くべき未来を期待することができます。病気の治療法をもたらす未来です。公共サービスの提供が、今日よりもはるかに高い効率と質で行われる未来です。

AIを正しい方向へ導くことができれば、これらはすべて実現可能です。そして、意思決定を機械だけに委ねないことが大切です。