ディルバート：すごい！コンピューターのシミュレーションによると、ありふれた家庭用化学薬品から新しい生命体を作り出せるはずだ
ドッグバート：これは厄介な問題をいくつか引き起こすね。
ディルバート：法的、倫理的、宗教的な問題のこと？
ドッグバート：駐車スペースのことを考えていたんだ。
人工知能は、テクノロジーのすばらしい分野です。数学、データ、認知科学を組み合わせたこの技術は、健康診断の改善や消費電力の削減、さまざまな分野での新たな知見の発見に活用されています。一方で、人類の存亡を脅かし、社会工学やロボット支配者がもたらすディストピアの前兆とも描かれています。AIの恩恵が誇張されているのなら、破滅を予言するシナリオも同じです。しかし、この両極端な見方は、私たちが直面する現実の選択を反映しています。この強力な一連の技術を人類の利益となるよう意図的に導くか、指を交差させて幸運を祈るかです。
AIがもたらす課題の中には、独特なものがあります。ソフトウェアや機械が、人間の関与なしに複雑な判断を下す能力（設計・開発段階を過ぎた後）は、おそらく最も重要で、人々が最も恐れている課題です。しかし、ソフトウェアやデータシステムをめぐるほかの課題は、以前から存在しています。今、この技術が注目を集め、企業が活用に多額の資金と労力を投じていることは、AIだけでなく、データやデジタル技術全般に関わる人権上の課題に取り組む好機です。
AIが人権に及ぼす影響について、一部の人々が考察を重ね、その成果として、機械学習における差別的な結果を防ぐための一連の提言がまとまりました（機械学習はAI分野の一部であり、現在主流となっているAI技術です）。
提言は、白書として今年3月に発表され、機械学習の開発と導入におけるビジネス界の責任に焦点を当てています。また、国連の「ビジネスと人権に関する指導原則」に基づく一連の原則を示しています。原則は次の4つです。
1. 積極的な包摂
AIシステムを開発する際には、その影響を受ける人々が誰かを考慮すべきです。たとえば、医療診断は非常に有望な分野であり、AIによって病気の検出を迅速化し、精度を高められる可能性があります。しかし、こうしたシステムでは、特定の集団や年齢層、環境による違いを考慮する必要があります。同様に、より多くの人に役立つ技術を生み出すには、開発チームの多様性が非常に重要です。
2. 公平性
機械学習は、非常に大量のデータに依存しています。機械学習を用いるAIシステムは、いわゆる訓練データを使って開発されます。訓練データとは、画像、金融データ、個人情報などの大規模なデータセットを分類し、アルゴリズムに取り込むものです。これにより、特定の特徴を認識したり、そうでなければ見えにくい傾向を見つけたりするよう「学習」させます。しかし、ご存じのように、少数派集団への過剰な取り締まりから融資を受ける際の差別まで、データには過去から現在に至る多くの偏りが存在します。こうした偏りを是正せず、アルゴリズムもそれに対抗するよう特別に設計されていなければ、AIシステムが既存の差別を増幅させるリスクは非常に高くなります。
3. 理解する権利
AIは、融資や保険金請求、採用応募に関する判断を支援するだけでなく、司法制度を含む公的機能にもますます使われています。たとえば米国では、裁判所や矯正機関がAIを保釈、量刑、仮釈放に関する判断の支援に活用しています。しかし、こうしたアルゴリズムはしばしば「ブラックボックス」です。ほかの誰かが開発した独自ソフトウェアであるため、利用者には内部の仕組みが分からないということです。アルゴリズムが、住宅ローンを受けられるか、採用面接に進めるか、あるいは不運にも法律に触れる事態に遭った場合に保釈されるかどうかに影響するなら、その評価が公平であると確かめたいはずです。利用者（銀行、雇用主、裁判所）が仕組みをまったく知らなければ、それは不可能です。AIが判断を支援または実行する場合には必ずそれを知り、なぜその判断が下されたのか説明を受けられるようにすべきです。
4. 救済を受ける権利
最後に、理解する権利を踏まえ、商業上または公的な機能における意思決定が自動化されているからといって、不公平だと考える判断に効果的に異議を申し立てる権利を失ってはなりません。誤った判断が下された場合には適切な救済を受けられるようにし、異議申し立ての手続きを明確に定めるべきです。AIの開発者は、利用における差別的な傾向を特定し是正するため、アプリケーションを定期的に監視し、テストする必要があります。
AIの開発と利用に関する倫理原則が議論され、策定される中で、自由、正義、尊厳、平等を守る唯一の国際合意枠組みである人権の枠組みに基づくことが不可欠です。今年は世界人権宣言の70周年にあたります。この枠組みには、70年にわたる実践と進化する基準が反映されています。AI倫理を定義し、発展させるうえで、その中核とすべきです。
この記事冒頭の会話で、ドッグバートは人工生命体を作ることの法的・倫理的な影響には注意を払わず、駐車スペースの需要が増える可能性にどう対処するかだけを気にしています。企業にも同じ選択肢があります。収益や短期目標に注力するか、長期的な視点に立ち、自社が開発する技術が社会に利益をもたらすようにするかです。この選択が、私たちの未来を決めます。
