多くの議論や倫理的な 思考は、自動運転車について、次のような悲劇的なジレンマに焦点を当ててきました。たとえば、車が学童の集団をひくか、乗員を犠牲にして崖から転落するかを判断しなければならない、という仮定の話です。しかし、こうした状況は極端な事例です。
最近の事故、つまり自動運転車が歩行者をはねて死亡させたアリゾナ州テンピでの事故が示すように、横断歩道や曲がり角、交差点で日々起きるありふれた状況のほうが、はるかに難しく、幅広い倫理的な難問を突きつけます。
極端な状況の倫理
私は哲学者として、スタンフォード大学自動車研究センターのエンジニアたちと仕事をしていました。研究室の会議で、簡単だと思っていた問い、つまり自動運転車は横断歩道にどう近づくべきか、を議論していたことに、当初は驚きました。
私の想定では、車は乗員の命と歩行者の命のどちらを優先すべきかを考えることになるはずでした。こうしたジレンマについて考える方法は分かっていました。なぜなら、これらの衝突シナリオは、「トロッコ問題」という有名な哲学上の思考実験に似ているからです。暴走するトロッコが線路を猛スピードで走り、5人の集団か1人のどちらかに衝突しようとしていると想像してください。5人を救うために1人を犠牲にしますか。
しかし、多くの 哲学者は今日、こうした問いの探究が有益な研究分野だとは考えなくなっています。バーバラ・フリードは、スタンフォード大学の同僚ですが、たとえば、悲劇的なジレンマは、倫理的な難問が主に極端で深刻な状況で生じるものだと人々に思わせる、と論じています。
実際には、倫理的な難問は至るところにあります。日常のありふれた状況は、驚くほど厄介で複雑なことが多く、微妙な違いが影響します。たとえば、市は糖尿病予防プログラムに資金を使うべきでしょうか、それともソーシャルワーカーを増員すべきでしょうか。地域の公衆衛生局は、飲食店の衛生基準を調べる検査官をもう一人雇うべきでしょうか、それとも注射針と注射器具を無料で提供するプログラムを続けるべきでしょうか。
結果について不確実な点があるため、こうした問いに答えるのは非常に困難です。たとえば、誰がどの程度影響を受けるのかは分かりません。極端で切迫した状況に対して哲学者が提案してきた解決策は、ここではほとんど役に立ちません。
自動運転車でも問題は同じです。極端な状況や衝突シナリオを考えても、日常的な状況で生じる問いには答えられません。
横断歩道での課題
横断歩道に近づく、交差点を通過する、左折するといったありふれた交通状況の何がそれほど難しいのか、と問う人もいるでしょう。
横断歩道の見通しが悪く、近くにいる歩行者が本当に道を渡ろうとしているのか判断しにくいことがあっても、運転者は毎日こうした状況に対処しています。
しかし、自動運転車にとっては、そうしたありふれた状況が二つの点で課題となります。
第一に、人間には簡単なことでも、しばしば機械には難しいという事実があります。顔を認識するにせよ、自転車に乗るにせよ、私たちの知覚や身体動作の能力は進化によって培われてきたため、そうした作業を得意としています。しかしそのために、これらの能力を教えたり、工学的に再現したりするのは難しくなります。これは「モラベックのパラドックス」として知られています。
第二に、将来すべての車が自動運転車になれば、運転行動のわずかな変化も全体として大きな違いを生みます。言い換えれば、今日エンジニアが下す決定は、1台の車ではなく、すべての車の運転の仕方を左右します。アルゴリズムが交通政策になるのです。
エンジニアは機械学習の手法を使って、顔や物体の認識方法をコンピューターに教えます。機械学習を使って、自動運転車が人間の運転を模倣できるよう支援することもできます。しかし、これは解決策にはなりません。安全性や移動のあり方に関する広範な決定をエンジニアが下すという問題は解消されないからです。
さらに、自動運転車は人間のように運転すべきではありません。人間は実際、それほど運転が上手ではありません。しかも、倫理的に問題のある運転をしています。横断歩道で歩行者に道を譲るかどうかを、歩行者の年齢、人種や所得に基づいて判断しているのです。たとえば、ポートランドの研究者は、黒人の歩行者は白人の歩行者に比べ、通過する車の台数が2倍に上り、道を渡れるようになるまで3分の1長く待たされることを明らかにしました。
自動運転車は、人間よりも安全で、公平に運転すべきです。
日常に潜む倫理
横断歩道や曲がり角、交差点のようなありふれた状況で表面化する利害の対立に目を向けると、倫理的な問題はさらに深まります。
たとえば、自動運転車の設計では、歩行者や自転車利用者など周囲の人々の安全と、車の乗員の利益とのバランスを取る必要があります。車が歩く速さを超えると、最後の瞬間に子どもが道路に飛び出してきた場合、衝突を避けられません。しかし、歩く速さではもちろん遅すぎます。誰もが目的地に行く必要があります。では、エンジニアは安全性と移動の利便性のバランスをどう取ればよいのでしょうか。どの程度の速度なら十分に安全なのでしょうか。
ほかにも倫理的な問いがあります。エンジニアは、移動の利便性と環境への影響との間でトレードオフを考える必要があります。国中のすべての車に適用されれば、コンピューター制御による加速、カーブでの走行、ブレーキのわずかな変化も、エネルギー消費や汚染物質の排出に大きな影響を及ぼします。移動の効率と環境への影響を、エンジニアはどう比較衡量すべきでしょうか。
交通の未来はどうあるべきか
ありふれた状況は新たな工学的、倫理的問題をもたらしますが、交通システムの基本的な前提を人々に問い直させるものでもあります。
私自身、そもそも「横断歩道」と呼ばれる場所が必要なのか、疑問に思うようになりました。自動運転車なら、道路のどこでも安全に渡れるようにできる可能性があるからです。
不要になるのは横断歩道だけではありません。交差点の信号機も過去のものになるかもしれません。衝突や混乱を起こさずに全員が交差点を渡れるようにするには、人間には信号機が必要です。しかし、自動運転車なら互いに円滑に連携できます。
より大きな問いは、こうです。自動運転車が人間の運転者より優れているなら、なぜ人間の弱さや過ちを前提に設計されたルールに従わなければならないのでしょうか。この思考実験をさらに広げ、もっと一般的な問いも考えてみましょう。社会として交通システムを一から設計できるとしたら、どのようなものにしたいでしょうか。
こうした難しい問いは都市や社会に暮らす全員に関わるため、その答えについて都市や社会が合意する必要があります。つまり、横断歩道だけを考える場合も、交通システム全体を考える場合も、誰にとっても機能する形で、競合する利害のバランスを取るということです。
自動運転車によって、社会は交通システムを再設計できるようになります。横断歩道から交通全体の設計に至るまで、本当に難しい問いを提起するのは日常的な状況です。極端な状況は注意をそらすものです。
トロッコ問題は、こうした難しい問いに答えてはくれません。
