ここ数年、MITが主催する「Moral Machine」研究では、人工知能アプリケーションがさまざまな状況でどのように振る舞うべきかについて、人々の選好を調査してきました。データから得られた結論の一つは、自動運転車（AV）が生死に関わる状況に直面したとき、どう対応すべきかという考えは、主に出身地や、関係する歩行者または乗客について何を知っているかによって異なるということです。
たとえば、古典的な「トロッコ問題」をAVに当てはめると、他者を傷つける前に有罪判決を受けた殺人犯に衝突することや、子どもより高齢者に衝突することを望む人もいるでしょう。一方で、データに基づく差別を避けるため、AVは単に運に任せるべきだと主張する人もいます。
一般に、こうした難問は事後に法廷や警察の捜査で扱われます。しかしAVの場合、判断はミリ秒単位で下されるため、十分な情報に基づいた決定を行う時間は到底ありません。重要なのは、何を私たちが知っているかではなく、車が何を知っているかです。では、AVは周囲の人々についてどのような情報を持つべきでしょうか。また、競争上の優位性を追求するために、企業が異なる倫理体系を提供することを認めるべきでしょうか。
次のシナリオを考えてみましょう。中国製の車は米国製の車とは異なる工場基準で製造されていますが、米国に輸送され、そこで使われています。この中国製の車と米国製の車が、避けられない衝突に向かっています。中国製の車の運転者と米国製の車の運転者で倫理的選好が異なる場合、どちらの体系を優先すべきでしょうか。
倫理的選好における文化に根差した違いに加え、各国のデータ規制の違いも考慮しなければなりません。たとえば中国製の車は社会信用スコアのデータを利用できる可能性があり、その意思決定アルゴリズムには、米国の自動車メーカーが利用できない追加情報が組み込まれます。より豊富なデータによって、より良く、一貫性の高い決定につながるかもしれません。しかし、その優位性によって一方の体系が他方を覆してよいのでしょうか。
明らかに、AVが道路に出る大規模に前に、アルゴリズムによる意思決定の責任がどこにあるのかを定める必要があります。それは自治体、各国政府、あるいは多国間機関かもしれません。さらに、企業と国家の交わる領域を統治する新たな枠組みも必要です。問題となるのは、極端な状況でAVが何をするかだけではなく、意思決定アルゴリズムの開発と導入にあたり、企業が異なる文化とどう関わるかです。
すべてのAVメーカーが、何よりも運転者の命を優先する倫理体系を宣伝したり、ユーザーが自分の倫理設定を切り替えられるようにしたりすることは容易に想像できます。この「共有地の悲劇」を防ぐには、AV間の通信を確立し、判断を調整する枠組みが必要です。しかし、異なる文化的背景のもとでこうしたシステムを開発する際、政策立案者や企業は、主権、プライバシー、個人の自律性に関する文化ごとの異なる概念に直面するでしょう。
AIシステムは曖昧さを許容しないため、これはさらなる課題をもたらします。AIアプリケーションを一から設計するには、細部まで明確に定める必要があります。良くも悪くも、システムは指示されたことだけを実行します。つまり企業、政府、その他の提供者は、さまざまな状況に対応するプロトコルをコーディングする際、明示的な選択を行わなければなりません。
しかし、その前に政策立案者は、アルゴリズム上の説明責任の範囲を定め、企業や個人に委ねるべき決定があるとすれば何かを判断する必要があります。国家の所管に属するものについては、議論しなければなりません。こうした倫理や道徳に関する問いには簡単な答えがないため、合意が形成される可能性は低いでしょう。最終的な解決に至らない場合でも、少なくともAV間の通信を促し、アルゴリズムをめぐる紛争や道路上の事故を裁定するシステムを構築する必要があります。
意思決定アルゴリズムの設計には細部まで明確に定める必要があることを踏まえれば、道徳的・倫理的ジレンマの解決基準を定める国際機関が必要になるのは当然です。そもそもAVは、アルゴリズムによる意思決定の一つの応用にすぎません。今後、アルゴリズム上の説明責任に関する基準は、多くの分野にまたがって管理される必要があります。
最終的に、まず決めなければならないのは、企業がアルゴリズムによる意思決定のために別の倫理的枠組みを設計する権利を持つかどうかです。私たちは、その権利はないと考えます。
AIの時代には、グローバル・バリューチェーンの一部が当然の流れとして自動化され、そうなれば企業が競争優位を追求する領域とは見なされなくなります。アルゴリズム上の説明責任を決定し、裁定するプロセスも、そのような領域であるべきです。いずれにせよ、決定は下されます。それらは一律に、そして可能な限り民主的に定めるのが望ましいでしょう。
