MITの准教授イヤド・ラーワン氏は、自動運転車をめぐる「トロッコ問題」について考えるよう、300万人に呼びかけた。
トロッコ問題は次のようなものだ。制御不能になったトロッコが、線路上にいる身動きの取れない5人に向かって猛スピードで進んでいる。しかし、レバーを引いてトロッコを側線へ送り、そこに立っている1人に向かわせることもできる。あなたならどうするだろうか。
しかしラーワン氏によれば、自動運転車について考えると、トロッコ問題はさらに難しくなる。最初の設定では、倫理的な責任を負うのは人間だ。だが、自動運転車がどちらを選んでも損失が避けられない状況に陥り、選択を迫られる場合、私たちは日常の環境にいるロボットに判断を委ねることになる。
「どこかの製造工場にいる顔の見えない人間がプログラムしたアルゴリズムを搭載したロボットが、人の生死に関わる判断を下すという考え方は、人間にとって非常に新しいものです」とラーワン氏はBusiness Insiderに語った。
ラーワン氏の研究は、自動運転車が事故に遭った場合にどうすべきかを評価する難しさを浮き彫りにしている。危険な状況で車が特定の行動を取るよう、あらかじめプログラムすべきなのだろうか。
自動車メーカーが自動運転車の開発を進めるなか、トロッコ問題をめぐる議論はかなり前から背景にくすぶっていた。ラーワン氏は2015年10月、次の論文を共同執筆し、「自動運転車には実験的な倫理学が必要だ」と論じて、この問題を表面化させる一助となった。
しかし、ラーワン氏が「MITのモラル・マシン」を立ち上げたことで、この議論は最前線に躍り出たと言える。これは、難しい状況で自動運転車がどう反応すべきかについて、人々の意見を広く集めるため、倫理的な難問を次々と提示するウェブサイトだ。モラル・マシンは、ラーワン氏が2015年に行った研究を発展させたものだ。
ラーワン氏によると、2016年8月のサイト公開以来、MITは世界中の300万人から2,600万件の判断を集めた。現在は、文化の違いが寄せられた回答に影響しているかどうかを分析している。
ラーワン氏は、この議論自体にも欠点があることを認めている。トロッコ問題は、理解しやすく、研究者が人々の心理的な思考過程を詳しく評価できるよう、意図的に単純化されている。
「その欠点は、非常に現実離れしていて、決して起こらない、あるいはごくまれにしか起きない状況のように見えることです」と同氏は語った。
「それでも、こうした問いに価値がないということにはなりません」とラーワン氏は語った。
「最終的には、特定の状況や事故についてではなく、アルゴリズムが相対的なリスクを判断する際に用いるべき全般的な原則についての問いです。だからこそ、この問いに答えを出す必要があります」と同氏は語った。
この問いに公の場で答えている自動車メーカーもある。
10月、メルセデス・ベンツで運転支援システムを担当するクリストフ・フォン・フーゴ氏は、将来の自動運転車は、どちらを選んでも損失が避けられない状況では運転者を優先すると述べた。
「少なくとも1人を救えると分かっているなら、その人だけでも救うべきです。車内にいる人を救うのです」と同氏は、Car and Driverのインタビューで語った。「確実に分かっているのが、1人の死亡を防げるということだけなら、それが最優先です。」
記事の掲載後、メルセデスは複数のメディアに対し、この発言は文脈を離れて引用されたと述べた。ダイムラーの広報担当者も、Business Insiderへのメールで同社の立場を改めて説明した。
「ダイムラーにとって明らかなのは、プログラマーにも自動システムにも、人の命の価値を比較する権限はないということです」と広報担当者は記した。「車内の人を優先する判断を下したことは一度もありません。私たちは、すべての道路利用者に可能な限り最高水準の安全を提供するという原則を引き続き守ります。」
ラーワン氏はまた、技術者がアルゴリズムに特定の判断を組み込む可能性は低いと述べた。
「子どもの命の価値は大人の1.5人分だ、といった判断をする車を作る人はいないでしょう。そうなる可能性は低いです」とラーワン氏は語った。
しかしラーワン氏は、独立した研究者が特定の自動運転車に偏った挙動がないか評価できるよう、自動車メーカーはデータを透明性をもって公開すべきだと述べた。たとえば、車が特定の人々に不釣り合いな被害を与えていること、たとえば歩行者よりも自転車利用者に衝突しやすいことがデータで示された場合、プログラマーは何が問題なのかを調べるため、アルゴリズムを見直すべきだ。
米国運輸省道路交通安全局（NHTSA）は、9月の報告書で、自動運転車は明示的にそうプログラムされていなくても、ある判断を別の判断より優先する可能性があると認めた。
自動運転車は、コンピューター、ここでは車が時間をかけて学習できる人工知能の一分野である機械学習に依存することになる。車は自ら運転環境に適応する方法を学ぶため、特定の結果を優先するよう学習する可能性がある。
「明示的な倫理規則や選好が意図されていない場合であっても、HAV（自動運転車）のプログラミングによって、重大な倫理的影響を伴う暗黙的または本質的な判断規則が生じる可能性があります」とNHTSAは報告書に記し、こうした状況に対処するため、メーカーは規制当局と協力しなければならないと付け加えた。
ラーワン氏は、特定の結果を得るためにプログラムするのは適切な方法ではないと述べる一方、企業は無人運転車の倫理について検討していることを、もっと広く世間に知らせるべきだと考えている。
「長い目で見れば、何らかの対策が必要だと思います。もう少し具体的な指針が必要です。それが世間の信頼を得る唯一の方法です」と同氏は語った。
