今日、機械学習ほど人々を魅了すると同時に恐れさせる技術を想像するのは難しい。メディアの報道や研究論文は、機械学習がビジネスや社会に前向きな変化をもたらす最大の原動力となる可能性を一貫して強調している。一方で、誰もが心に抱き続けている疑問がある。「もし、すべてがひどい結果に終わったらどうなるのだろう？」
専門家は長年にわたり、汎用人工知能（AI）が社会にもたらす予期せぬ影響について警鐘を鳴らしてきた。レイ・カーツワイルは予測している。2029年までに、知能を持つ機械は人間を出し抜けるようになるという。スティーブン・ホーキングは、こう主張している。「人間が完全なAIを開発すれば、AIは自律的に動き始め、ますます速いペースで自らを再設計していく」。イーロン・マスクは、AIが「人類文明の存続に対する根本的な脅威」となる可能性を警告している。汎用AIの恐るべき潜在力について、メディアには危機を煽る見方があふれている。
こうしたディストピア的な予言に対しては、AIシステムをより倫理的に導入すべきだという声が上がることが多い。つまり、エンジニアは自律システムに倫理観を持たせるべきだという考えだ。一部のAI専門家によれば、将来人類を支配するかもしれないロボットにも善悪の判断を教えることができる。いわば、常に自律的に正義を実行し、困っている人間を助ける「善きサマリア人AI」を作れるという。
こうした未来はまだ数十年先だが、汎用的な機械知能の水準に、そもそも到達できるのか、できるとすればどうすればよいのか、今日の時点では不確実性が大きい。しかし、今より重要なのは、すでに存在する特化型AIの応用が、日常の実際的な状況で道徳的な判断を下す際に、早急な注意を必要としていることだ。たとえば、融資を受けられる人をアルゴリズムが決める場合や、自動運転車が危険な状況で人命の価値を判断しなければならない場合がこれに当たる。
人間には、コンピューターが処理しやすいよう、道徳を客観的で測定可能な指標として表現することが難しいため、機械に道徳を教えるのは容易ではない。実際、人間は誰もが合意できるほど確かな道徳観を持っているのかどうかさえ疑わしい。道徳的ジレンマに直面すると、人間は複雑な費用対効果の計算よりも直感に頼りがちだ。一方、機械には、明確に測定し最適化できる、明示的かつ客観的な指標が必要である。たとえば、ルールと境界が明確なゲームでは、AIプレーヤーは繰り返しプレイして得点を最適化する方法を学び、優れた成績を上げられる。
アタリのビデオゲームで深層強化学習を試した後、アルファベット傘下のDeepMindは、囲碁の囲碁で最強の人間プレーヤーを破ることができた。一方、OpenAIはValveのDota 2大会で最強の人間プレーヤーを破るために、「何生分もの」経験を積み重ねた。同大会は、世界で最も人気のあるeスポーツ大会の一つだ。
しかし、現実の状況では最適化の問題ははるかに複雑だ。たとえば、機械にアルゴリズムによって公平性を最大化したり、訓練データに含まれる人種や性別による偏りを克服したりする方法を、どう教えればよいのだろうか。AIシステムを設計するエンジニアが公平性とは何かを正確に捉えていなければ、機械に公平とは何かを教えることはできない。
このため、一部の著者は、日常的な問題にアルゴリズムを安易に適用すれば、構造的な差別を増幅させ、学習の基盤となるデータの偏りを再現しかねないと懸念している。最悪の場合、アルゴリズムは少数派へのサービス提供を拒み、人々の雇用機会を妨げたり、誤った政治候補を当選させたりする可能性がある。
機械学習の経験に基づき、より倫理に沿った機械を設計するために、まず取り組める方法は3つあると私たちは考える。
1. 倫理的な振る舞いを定義する
AI研究者と倫理学者は、倫理的価値を定量化可能なパラメーターとして定式化する必要がある。言い換えれば、機械が遭遇する可能性のあるあらゆる倫理的ジレンマに対して、明確な答えと判断規則を与えなければならない。そのためには、あらゆる状況で最も倫理的な行動方針について、人間同士が合意する必要がある。これは困難だが、不可能ではない。たとえば、ドイツの自動運転およびコネクテッド・ドライビングに関する倫理委員会は、人命の保護を何よりも優先するため、自動運転車に倫理的価値を明示的にプログラムするよう提言した。避けられない事故が起きる場合、車は「被害者を互いに比較して選別することを禁じられるべき」だという。つまり、衝突が避けられないとき、年齢、性別、身体的・精神的状態などの個人の属性に基づいて、誰か一人を犠牲にするかどうかを車が選べるようにすべきではない。
2. 人々の道徳観を集める
エンジニアは、AIアルゴリズムを適切に訓練するため、明示的な倫理的尺度に関する十分なデータを集める必要がある。倫理的価値について具体的な指標を定めた後でも、モデルの訓練に偏りのないデータが十分になければ、AIシステムがそれを学習するのは難しい。適切なデータを得るのは容易ではない。倫理規範は常に明確に標準化できるとは限らないからだ。状況によって適切な倫理的対応は異なり、倫理的な行動方針が一つに定まらない場合もある。たとえば、軍事利用を目的に現在開発されている致死性自律兵器を考えてみてほしい。この問題を解決する一つの方法として、何百万人もの人々から道徳的ジレンマへの解決策を募ることが考えられる。たとえば、MITのMoral Machineプロジェクトは、自動運転車に関するより良い道徳的判断を機械に行わせるため、クラウドソーシングで集めたデータを効果的に活用できることを示している。
3. AIの透明性を高める
政策立案者は、倫理に関するAIの判断をより透明にするガイドラインを導入する必要がある。特に、倫理的な指標と結果について透明性を高めるべきだ。AIシステムが誤りを犯したり、望ましくない結果を招いたりした場合、「アルゴリズムがやった」という説明を正当な言い訳として受け入れることはできない。しかし、アルゴリズムの完全な透明性を求めることは技術的に実現不可能であり（率直に言って、あまり役にも立たない）ことも分かっている。ニューラルネットワークはあまりに複雑で、人間の検査員が精査することはできない。代わりに、エンジニアが倫理的価値をどのように定量化してプログラムに組み込んだか、またその選択によってAIがどのような結果を生み出したかについて、透明性を高めるべきだ。たとえば自動運転車の場合、倫理的な説明責任を確保するため、あらゆる自動判断の詳細な記録を常に保存することが考えられる。
この3つの提言は、倫理に沿ったAIシステムを開発するための出発点と捉えるべきだと私たちは考える。AIシステムに倫理を組み込めなければ、アルゴリズムに私たちにとって何が最善かを決めさせるという危険な状況に、自らを置くことになりかねない。たとえば、避けられない事故の状況では、自動運転車は良くも悪くも何らかの判断を下さなければならない。しかし、車の設計者が判断の指針となる倫理的価値を明示しなければ、AIシステムはより大きな害をもたらす解決策を導き出すかもしれない。つまり、私たちは自らの価値観を定量化することを単純に拒むことはできない。この重要な倫理的議論から手を引くこと自体が、暗黙の道徳的選択となる。そして機械知能が社会にますます浸透するにつれ、何もしないことの代償は計り知れないものとなり、何十億人もの生活に悪影響を及ぼす可能性がある。
機械が本質的に道徳的な振る舞いをする能力を備えていると考えることはできない。道徳とは何か、どう測定し最適化できるのかを、人間が機械に教えなければならない。AIエンジニアにとって、これは気が遠くなるような仕事に思えるかもしれない。人類は歴史を通じて、道徳的価値を定義することに苦闘してきたからだ。それでも、AI研究の現状を踏まえれば、私たちはついに道徳を定義し、明示的な形で定量化する必要がある。善きサマリア人たる人間の公式がなければ、エンジニアは「善きサマリア人AI」を作ることはできない。
