EUによるAIに関する初の規則案は、AIの誤りや偏りを排除し、安全で信頼できるものにするための、人間中心のAIを発展させるより広範な取り組みの一環である。
この規則には、特にAIシステムの開発に用いられるデータセットの質に関して、アルゴリズムによる差別のリスクを最小限に抑えるための要件が含まれている。
また、特定のAIシステムに対する人間による監督を導入し、AIシステムの使用時に生じうる健康、安全または基本的権利へのリスクを防止または最小限に抑えるものとしている。
SF小説の世界の話ではなく、人工知能はすでに私たちの生活の一部となっている。自動運転車から仮想のパーソナルアシスタントに至るまで、AIはすでに現実のものである。
AIは私たちの生活を簡素化するだけでなく、社会に多様な経済的・社会的恩恵をもたらすことが期待されている。医療から移動、公共部門や金融に至るまで、AIは急速に進化している技術であり、世界最大級の課題のいくつかを解決しうる。社会的・環境的に有益な成果をもたらす可能性があると同時に、あらゆる種類の企業を支援することもできる。顧客をよりよく理解し、顧客と関わる手助けをし、予測を改善し、生産を加速させ、業務および資源配分を最適化するなどである。
しかし、数えきれないほどの社会経済的恩恵とともに、AIが社会に新たなリスクをもたらしうることは驚くことではなく、そうした課題のなかでも、倫理的な影響は最も微妙で、かつ深刻なものである可能性が高い。
科学的なブレークスルーを可能にし、AI技術がすべての市民に奉仕し、その権利を尊重しながら市民の生活を向上させるよう確保するため、欧州委員会は初の規則案としてAIに関する規則を提案した。
この法案は、欧州委員会が2018年に提示したAIに関する欧州の大規模な戦略の一部にすぎず、同戦略はAIがもたらす機会と課題に対処すると同時に、欧州の価値観を推進することを目的としている。しかし、AIの開発と導入を促進すると同時に、この新技術の特定の用途に伴うリスクに対処するという二つの目標を追求することは、複雑な評価と困難な倫理的・規制上の選択を伴い、特に差別のリスクが生じる場合にはそうである。
誤りや偏りからの免除はない
AIは、かつては人間にしかできなかった機能を果たす。その結果、私たちはAIシステムによって、またはAIシステムの支援を受けて下された決定に、次第に左右されるようになっている。しかし、AIはデフォルトで偏りから免れており、個人または集団を差別することはできないと信じることは危険な誤りである。AIは特定の偏りを永続させたり、さらには増幅させたりすることさえありうる。
欧州委員会は、そのAIに関する2020年白書において、偏りと差別はあらゆる社会的または経済的活動に内在するリスクであり、AIも誤りや偏りから免れていないと指摘している。実際、AIシステムの学習とテストに用いられるデータの入力によっては、その出力に偏りが生じうる。
たとえば、犯罪の再犯を予測するために導入されている特定のAIアルゴリズムは、ジェンダーおよび人種による偏りを示しており、女性と男性、あるいは自国民と外国人とで異なる再犯予測確率を示している。
同様に、特定のAIベースの顔認識ツールは、肌の色が明るい男性の性別を判定する際の誤りは少ない一方で、肌の色が濃い人の性別を判定する際の誤りが多く、ジェンダーおよび人種による偏りを示していることが明らかになっている。
偏った結果は、表現または結社の自由（顔認識システムによる無差別な監視の影響を参照）から、性別、人種や民族的出自、宗教、障害、年齢または性的指向に基づくAIの偏った決定（たとえば雇用へのアクセスや融資の承認など）に至るまで、私たちの基本的権利の侵害につながりかねないことは明らかである。
AIによる偏った結果や差別的な影響は、主に次の二つの要因によるものである。
質の低い学習用データセットの使用（例：AIシステムが主に男性のデータを用いて学習されるため、女性に対して最適とはいえない結果となる）。
AIの透明性の欠如（一般に「AIの不透明性」として知られる）により、AIシステムの設計上の欠陥を特定することが困難になること。
EUのアプローチ
医療や雇用などの重要分野において、AIを活用した誤った、または偏った決定のリスクを緩和するため、欧州委員会は多面的なアプローチを構想している。
提案されている規則案には、AIシステムの開発に用いられるデータセットの質に関して、アルゴリズムによる差別のリスクを最小限に抑えることを目的とした要件が含まれており、AIシステムのライフサイクル全体を通じたテスト、リスク管理、文書化および人間による監督の義務も盛り込まれている。
実際、データを収集する際には、社会的に形成された偏りを反映している場合や、不正確さ、誤り、ミスを含んでいる場合がある。AIシステムが用いるデータセットは、学習と運用の両方において、意図しない過去の偏りを含んでいる可能性があり、それが間接的な差別につながりかねない。同様に、AIシステムの開発方法（例：アルゴリズムのプログラミングコードの書き方）にも偏りが生じる場合があり、それはしばしば人間の開発者に内在するものである。
したがって、学習用、検証用およびテスト用のデータセットは、次の点を考慮に入れた適切なデータガバナンスおよび管理の実践の対象とすべきである。
関連する設計上の選択。
データの収集。
関連するデータの準備・処理作業。
関連する前提の策定、特にデータが測定し、表現することを意図している情報に関して。
必要なデータセットの利用可能性、量および適合性の事前評価。
偏りの可能性を踏まえた検討。
起こりうるデータの欠落や不備の特定、および潜在的な是正措置。
さらに、禁止されている差別につながる結果を防ぐため、学習用、検証用およびテスト用の各データセットは、関連性があり、代表性を備え、誤りがなく、完全なものでなければならない。また、特にAIシステムの使用が意図されている個人または集団に関して適切な統計的特性を備え、ジェンダー、民族性およびその他の禁止されている差別の根拠となりうるすべての関連する側面が、これらのデータセットに適切に反映されるようにしなければならない。
注目すべきことに、本提案は、AIの偏りの監視、検出および是正を確保する目的のために厳密に必要な範囲において、AIプロバイダーが、健康データや、民族的出自、政治的意見、宗教的信条または性的指向を明らかにする個人データなどの特別な種類の個人データを、適切な保護措置の下で処理できることも定めている。これには、再利用および使用に関する技術的制限や、仮名化などの最先端のセキュリティおよびプライバシー保護措置、または匿名化が追求される目的に著しい影響を与える場合の暗号化が含まれる。
上記の事前テスト義務に加えて、本提案は、AIシステムが提案された法律で定められた要件に適合していることを実証することを目的とした説明責任の義務を導入している。AIシステムの技術文書は、そのシステムが市場に投入される前に作成され、最新の状態に保たれるべきである。同様に、AIシステムは、稼働中に事象を自動的に記録する（すなわちログを取得する）機能を備えて設計・開発されるべきである。
これらの義務は明らかに、事後の管理を可能にし、AIシステムのライフサイクル全体を通じた機能の透明性と追跡可能性を確保することで、基本的権利の尊重を促進することを意図している。実際、透明性を高め、偏りや誤りのリスクを最小限に抑えるため、欧州委員会は、人間がAIシステムの行動の根拠を理解できるような方法でAIシステムを開発すべきであると提案している。同様の目的から、ハイリスクのAIシステムについては、ユーザーがシステムの出力を解釈し、適切に利用できるよう、その動作が十分に透明であることを確保する形で設計・開発されることを求めている。
これらのリスクを考慮し、規則案は、特定のAIシステムに対する人間による監督も導入している。これは、AIシステムの使用時に生じうる健康、安全または基本的権利へのリスクを防止または最小限に抑えることを目的としており、特に上記の他の要件を適用してもなお、そうしたリスクが残存する場合に重要である。
取るのが難しいバランス
新たな立法提案によって、EUは改めて明確に示した。AIには、世界をより良い方向へ変革する可能性がある一方で、ジェンダーに基づく差別やその他の種類の差別などを通じて、基本的権利を侵害する可能性も同時にあるということである。しかし、偏り、不透明性、複雑性、予測不可能性、そしてAIシステムの部分的な自律的振る舞いは、市民の権利に危険をもたらす主な要因のほんの一部にすぎない。本提案によって、EUは企業がAIを開発・導入するための明確で安全な枠組みを確立し、顧客やユーザーにとってのイノベーションと信頼を促進する。
市民の自由の保護とEUの経済競争力との間でバランスを取ることは難しい選択であり、複雑な評価を必要とする。デジタル時代に適合した欧州のための欧州副委員長マルグレーテ・ベステアー氏は最近、次のように述べている。「AIにおいて、信頼は望ましいものではなく、不可欠なものである」。信頼には透明性が必要であり、透明性には説明責任が必要である。
本規則案により、EUはAI分野におけるイノベーションを推進すると同時に、域内経済全体での倫理的で信頼できるAIの開発と普及を支援している。EUが採択した戦略は明確であり、AIの開発の中心に人々を置くことで、人間中心のAIを設計するものである。
