人工知能は、企業や組織全般にとって最も影響力の大きい進展の一つです。
しかし、このような急速かつ止まることのない潮流は、倫理的な問題を提起しています。
AI開発の中核にあるアルゴリズムが、しばしば無意識の人種的・性的その他の偏りを含んで設計されている場合、AI開発を公正に保つことは困難になり得ます。
以下では、ロレナ・ブラスコ＝アルカスとシン・シュアン・メグ・リーが、特定の枠組みや規制システムの設計に向けた、人間中心の視点を提案しています。
「OK、Google、今日の天気は？」「すみません、わかりません。」
命令に応答しないスマートマシンとのやり取りという経験に、覚えはありませんか。このような失敗によって人は途方に暮れ、自分の知性が機械と同じ波長にないかのように感じてしまうかもしれません。AI開発の意図（選択的に対話すること）ではないものの、こうした事例は、テック業界における「マイノリティ」にとって、より頻繁に起きている可能性があります。
世界の人工知能（AI）ソフトウェア市場は予測されており、今後数年間で急成長し、2025年までに約1,260億米ドルに達する見込みです。AI技術の成功により、多くの既存企業がビジネスモデルを転換し、AIへの移行を迫られています。一方で、技術の進歩とともに、これらのツールのアルゴリズム開発における偏りへの懸念も高まっています。
AIの欠陥が明らかになる仕組み
アルゴリズムの偏りは新しい問題ではありません。しかしこれまで、エンジニアは、複雑な問題を解決するAIアルゴリズムの開発に重点を置いてきたのであり、こうした技術の進歩がもたらす潜在的な問題の監視・報告には十分に注力してきませんでした。差別的な慣行の台頭に伴い、技術の失敗例はすでに見られます。例えば2016年、マイクロソフトは、自己学習型チャットボット「Tay」をTwitter上で公開しました。これは「会話の理解」に関する実験として計画されていました。このAIツールは言語の基礎を学習し、時間の経過とともに、自ら会話に参加できるはずでした。しかし、このボットは最終的にソーシャルメディア上で人種差別的および性差別的な特性を身につけてしまいました。もう一つの事例は、MITで顔認識の研究を行っていた際に起きました。ジョイ・ブオラムウィニ氏が差別的な実験を行いました。それとは知らずに。浅黒い肌の女性である彼女は、白人の友人ほど正確にはAIに認識されませんでした。この結果は実験の要点を完全に外しており、彼女は、コンピュータが白人女性の99%を識別した一方で、黒人女性は65%しか識別されないことを知りました。
AIの振る舞いの背後には人間の意図があったのでしょうか。そうかもしれないし、そうでないかもしれません。これらの事例は、AIツールが根本的に欠陥を抱えていた、あるいは人種差別的になるよう設計されていたということを意味するものではありません。それでも、その設計には偏りがあり、公開前に十分な管理がなされていませんでした。データの偏りは、人間の意図または意図しない行為に由来する差別的な慣行につながり、世代を超えた偏り（bias(es)）を永続させてしまう可能性があります。さらに深刻なのは、生じた差別がほぼ常に、プログラマーによる意識的な選択ではなく、アルゴリズムの利用に伴う意図しない創発的な性質であるため、問題の原因を特定したり、裁判所に説明したりすることが困難である点です。機械は、中立であるという（誤った）印象を与えがちです。
偏りと不均衡に満ちた社会の中で、倫理的で偏りのないAIアプリケーションをどのように開発すればよいのでしょうか。AIは、従来の不平等や排除を乗り越えた、よりバランスの取れた社会を築くことで、聖杯となり得るのでしょうか。現時点で断言するのは時期尚早であり、社会においてAIをどのように、そして倫理的にどう活用すべきかについて合意に至るまでには、多くの試行錯誤の段階を経ることになると思われます。制度的人種差別と同様に、エコシステム全体の根本的な転換を必要とするように、AI開発における問題も、より良い成果を生み出すための同様の変革を求めています。この課題を解決するため、私たちは、技術の進歩に直面する人間を優先し、次の3つの分野に取り組むことを提案します。
1. （偏った）人間の偏りを解消する
アルゴリズムの開発と導入の背後には、開発者や権力の座にある特定の人々がいます。データに見られるように、今日の開発者の職業的環境は多様性からほど遠く、これが偏りを助長する思考の論理の一部を説明しています。業界を支配する大企業において、開発者の職位の多様性を高め、そこへのアクセスを広げれば、アルゴリズムがどのように開発されるかについて、より批判的な視点がもたらされるでしょう。これは、人間の包摂を損なうのではなく、むしろ高めることになります。アルゴリズムの偏りを、コンピュータと数学を口実に特定の考えを押し付けることだと理解するならば、偏りや差別的慣行を永続させる制度的論理に疑問を投げかけることができます。
アルゴリズムの作成と開発に人間の偏りが入り込まないようにするため、管理の強化、監視システム、規制、共通の倫理的枠組みが必要です。私たちは、アヤンナ・ハワード教授およびチャールズ・アイズベル教授（ジョージア工科大学）の見解に賛同します。その見解とは、データとリーダーシップにおける多様性の重要性を認識し、特定の決定に対する説明責任を求めることが、将来のAIのより公正な開発と導入に向けた不可欠な指針であるというものです。
2. 偏りのためのデータではなく、善のためのデータ
歴史的なデータセットの偏りの解決に役立つ可能性のある重要な取り組みが進められています。例えば、オンタリオ大学の研究者による取り組み、その研究者はMNISTデータセットを使用し、6万枚の画像からなるそのデータベースをわずか5枚にまで絞り込んで、AIモデルの学習を行いました。こうした手法が異なる状況にも首尾よく適用できれば、膨大なデータベースを持つ余裕のない企業にとっても、AIがより利用しやすくなるでしょう。また、関連モデルの学習に必要となる個人の情報が少なくて済むため、データのプライバシーとデータ収集の改善にもつながります。
3. 市民にAIアプリケーションの利点とリスクについて教育する
AI開発は、社会、政治、ビジネス、さらには市民としての日常生活の理解に関して、多様で重要な課題を提起しています。AIは、個人の選択や可能性に影響を与えるビジネスプロセスにおいてますます存在感を高めているため、これらのテーマに対する認識と理解を高めるための教育がより一層必要とされています。
市民の技術への準備性が高まれば、AIの導入と、AIの実施およびその影響に関する批判的評価が向上するでしょう。より意識の高い市民は、操作や、偏った・不公正なAI技術の受容に対して寛容でなくなるでしょう。例えば、市民的自由や権利と相反しかねない監視に関連する応用などです。
機械をより人間らしくすること、あるいは人間の知性を抑制することは、技術進歩の究極的な目標の一つとして扱われてきました。人間中心の技術開発とは、開発者や機械を利用する企業が、イノベーションを目指すだけでなく、社会への潜在的な影響にも注意を払うべきであることを意味します。人間は不完全であり、つまり私たちの社会は、体系的かつ制度的な偏りに自然と満ちており、私たちはそれに必ずしも気づいているわけではありません。しかし、私たちが構築する機械において、同じ問題を再現することは避けるべきです。
