トロッコが線路を猛スピードで走っている。突然、運転士は前方の線路を横切る5人の姿を目にする。ブレーキをかける時間はない。何もしなければ、5人全員が命を落とす。しかし、側線に切り替えれば、代わりに1人が犠牲になる。運転士はポイントを切り替えるべきだろうか。
哲学者たちは、こうしたトロッコ問題を何十年にもわたって議論してきた。これは、害を与えることと、害が生じるのを許すことの道徳的な違いについて、私たちの直観を試すための有用な思考実験だ。この仮想的な状況では、倫理的な問題を曇らせかねない実証的な問い、たとえばトロッコは間に合って止まれるのか、衝突を別の方法で回避できるのか、といった問いを脇に置くことができる。
近年、トロッコ問題が、自動運転車（AV）の規制をめぐる現実の政策論議で持ち出されている。問題となっているのは、AVが、ある人々と別の人々のどちらに危害が及ぶかをどう選ぶのかという点だ。
2016年9月、米国道路交通安全局（NHTSA）は、AVを開発する企業に対し、車両の安全性を評価する際に倫理的な考慮事項を考慮したことを証明するよう求めた。
しかし、AV技術の開発に実際に携わるエンジニアや弁護士の多くは、トロッコ問題はせいぜい注意をそらすものであり、最悪の場合、公共政策にとって危険な誤解を招くモデルだという見解で一致している。
トロッコ問題がAV規制の指針として不適切なのは、次の3つの理由による。
1. トロッコ問題のような状況は極めてまれ
人間が運転する車両の世界でさえ、運転者が現実のトロッコ問題に直面するには、1）別の進路を検討できるだけの時間を残して、差し迫った衝突を認識すること、2）実行可能な別の進路が一つしかなく、しかもそこでも別の致命的な衝突が起きること、そして3）その衝突に向けて車を操舵するだけの時間内に反応できること、がすべて必要となる。この3つの条件が重なる可能性は、限りなく低い。だから、トロッコ問題のような衝突をニュースで目にすることがなく、ましてや裁判の判決で見かけないのも不思議ではない。
しかし残念ながら、トロッコ問題とは異なり、死亡事故は珍しくない。全米安全評議会は、2016年に米国の道路で約40,200人が死亡したと推計しており、これは前年から6％の増加だ。これと比べると、米国がん協会の推計では、今年、米国で乳がんにより死亡する女性は約40,610人となる。NHTSAの調査は、事故の94％で運転者のミスが主な原因だと結論づけた。政策立案者は命を救うため、飲酒や運転中のメッセージ送信など、防止可能な道路死亡事故の現実の原因を念頭に置く必要がある。
2. 自動運転車によって、そうした状況はさらにまれになる
現実世界にトロッコ問題のような状況が存在するとしても、AVによって頻度が増すのではなく、減るだろう。AVは認知能力や意思決定能力に優れ、反応も速いため、人間の運転者なら選択できない状況でも、トロッコ問題のような選択をできるのではないかと考える人もいるかもしれない。しかし、同じ優位性によって、人間の運転者にはできない場合でも、AVは衝突を完全に回避したり、衝突時の速度や衝撃の程度を抑えたりできる。
線路上を走るトロッコとは異なり、AVが衝突を伴う2つの決まった進路だけに制限されることは、ほとんどない。AVにはセンサーが搭載されており、車両の周囲の世界を三次元・360度で常に更新しながら把握できる。そのため、多くの別の進路を認識し、それに応じて行動できる。さらに重要なのは、AVは飲酒せず、眠気に襲われず、注意散漫にもならないため、そもそも衝突寸前の状況に陥りにくいことだ。
3. 規制当局にできることはあまりない
仮にトロッコ問題がAVにとって現実的な懸念だとしても、規制当局やAV開発企業がそれに対して何をすべきなのか、あるいは何かすべきなのかは明らかでない。トロッコ問題が激しく議論される思考実験なのは、まさに何をすべきかについて合意がないからだ。
一般に、トロッコ問題をAVに当てはめる論者が何らかの結論を示す場合、年齢、性別、その他の属性に基づいて、AVが異なる人々を区別すべきではないと提案する。しかし、その常識的な結論に至るのにトロッコ問題を持ち出す必要はない。
トロッコ問題に焦点を当てると、AV導入への安全な移行を確保するという重要な任務から規制当局の注意をそらしたり、AVは特定の種類の人々を標的にするようプログラムされている、あるいは単に危険だと、世間に誤解させたりするおそれがある。
私たちは皆、統計的には起こりやすくても目立たないリスクより、鮮明で頭に浮かびやすいリスクの可能性を過大評価しがちだ。統計上のリスクが高いにもかかわらず、従来型の交通事故の発生率を見落とすことも多い。AVを致命的なトロッコ衝突と結びつければ、この問題を悪化させるだけだ。
思考実験と現実を混同すれば、人間の運転者より確実に安全なAVの導入が遅れるおそれがある。自動運転車の規制にあたって、誤った線路に進むのはやめよう。
