近くの車が、運転者が酔っているかのように道路上で予測不能に左右へ蛇行しているとき、自動運転車はどうすべきだろうか。逆走車に遭遇した場合はどうだろう。自動運転車が道路を走る前に、予期せぬ状況でどのように対応するのかを誰もが知っておくべきだ。
私は自動運転シャトルを開発、試験、運用し、自動運転車両の安全性と信頼性を確保する方法を見いだしている。しかし、実際の道路に勝る試験場はなく、何十年にもわたり毎年数兆マイルを走行してきた現代の有人運転車と同じほど徹底して、こうした新しい機械を試験する方法もない。自動運転車が道路を走り始めると、衝突事故を起こすことがあり、その規模は深刻なものから軽微なものまでさまざまだ。それでも、車の判断はすべて電子的に行われる。人々はどうすれば、安全に走行していると確信できるのだろうか。
幸い、新技術が一般に使われるうえで安全かつ有効であることを確かめるための、広く普及し、よく研究されている方法がある。新薬の試験制度だ。基本的な考え方は、研究者が仕組みを完全に理解していなくても、深刻な副作用を生じることなく、システムが意図されたとおりに機能することを確認することにある。
広範囲に及ぶ影響
自動運転車は期待されている。道路の安全性を高めるとともに、運転者の時間と注意力に余裕をもたらし、都市、さらには社会を変革すると期待されている。
自動運転車に関する規制は、経済や社会全体に波及する大きな影響を及ぼす。規則は、現在の自動車規制当局である連邦政府の米国道路交通安全局と州の運輸局が何らかの形で共同して定める可能性が高い。
連邦規則は主に、エアバッグやシートベルトなど、車両の構造部品、機械部品、電気部品に関する安全基準に重点を置いている。州は独自の安全規則を施行できる。たとえば、排出ガスを規制し、運転免許や車両登録を取り扱うほか、多くの場合、保険加入も義務付ける。
現行の規制
現在の州規則と連邦規則では、運転者と車は別々の主体として扱われている。しかし、自動運転車は定義上、その両方を兼ね備えている。規制間に一貫性がなければ、混乱が広がるだろう。
オバマ政権は、116ページに及ぶ規制を策定した。詳細は多かったものの、自動運転車の仕組みへの理解は乏しかった。たとえば、各車両に、自動運転の具体的な機能を列挙した、誰にでも読める恒久的なラベルを付けるよう求めた。そこには速度、特定の高速道路、気象条件に関する制限も含まれ、利用者を大いに混乱させかねない。また規制は、倫理的な判断を「意識的かつ意図的に」行うよう求めていたが、機械にとってこれは疑問が残り、不可能ですらある。
トランプ政権は規則を26ページに縮小したが、自動運転車の試験という重要な問題には、まだ取り組んでいない。
アルゴリズムを検証する
アルゴリズムの試験は、薬の試験によく似ている。どちらの場合も、研究者はなぜ機能するのかを常に正確に説明できるとは限らない（特に機械学習アルゴリズムの場合）。それでも、結果を評価することはできる。薬を服用した病人は回復するだろうか。
米国食品医薬品局（FDA）は、医薬品に試験を義務付けているが、その対象は治療の仕組みではなく、結果である。主な基準は二つ。意図する症状を薬がどの程度治療できるかという有効性と、副作用やその他の問題がどの程度深刻かという安全性だ。この方法なら、仕組みを知らなくても、薬の安全性と有効性を証明できる。
同様に、連邦規則は自動運転車のアルゴリズムの試験を義務付けることができるし、そうすべきだ。これまで政府は、車を機械として試験し、ハンドルやブレーキなどの機能が正常に働くことを確かめてきた。もちろん、人間の運転者を対象とする政府の試験もある。
機械がその両方を担うなら、両方の種類の試験に合格しなければならない。特に、人間が運転できない車両ではそうだ。
判断力を評価する
私の考えでは、特定の自動運転車が道路を走ることを認める前に、米国道路交通安全局（NHTSA）は、その車両と運転アルゴリズムの試験結果を提出させ、安全で信頼できることを示すべきだ。現時点で最も近い基準は、カリフォルニア州の要件である。同州では、自動運転車のすべてのメーカーに対し、アルゴリズムが正常に機能しなかった際、人間の運転者が何回車両の操作を引き継いだかを年次報告書で提出するよう求めている。
これは良い第一歩だが、人間が操作を引き継いだときに車両が何をしていたのか、周囲で何が起きていたのかについて、規制当局や一般の人々には何も分からない。試験では、トラックが走る高速道路や、動物、子ども、歩行者、自転車利用者がいる住宅街で、アルゴリズムが車にどのような動作を指示するかを調べるべきだ。また、雨や雪などの気象条件によって車両の性能とセンサー入力の両方が損なわれた場合の動作も検証する必要がある。一時的な工事区域、四差路、逆走車、信号機と矛盾する指示を出す警察官など、さまざまな状況を車両に経験させるべきだ。
人間の運転試験には、運転者の判断力や意思決定を評価する項目もある。しかし、自動運転車の試験はより厳格であるべきだ。直感、反射神経、自己保存といった人間中心の概念に頼る方法がないからだ。機械がとる行動はすべて選択であり、その選択が安全である可能性について、一般の人々が明確に理解できるようにすべきだ。
人間との比較
自動運転車のアルゴリズムは、確率を絶えず計算している。ある形が人間である可能性はどれくらいか。センサーのデータから、その人が道路に向かって歩いていると判断できる可能性はどれくらいか。その人が車道に踏み出す可能性はどれくらいか。車がその人にぶつかる前に停止できる可能性はどれくらいか。これは実のところ、人間の脳の働き方に似ている。
この点から、自動運転車と、メーカーがすでに走行中の車両に配布する可能性のあるソフトウェア更新を、率直な方法で試験できる。人間の試験運転者と自動運転アルゴリズムに同じ状況を提示し、何度も試行して性能を観察すればよい。人間と同等かそれ以上の性能を発揮する自動運転車は、道路を走る安全性が認証される。これは薬の試験方法によく似ている。新薬の性能を既存の治療法や、一般的なプラセボの砂糖錠剤のように効果がないと分かっている方法と比較して評価するのだ。
企業は、閉鎖された試験コースで望むイノベーションを自由に試験できるべきであり、運転を引き継ぐ準備のできた人間の安全運転者を同乗させれば、公道で試験してもよい。しかし、自動運転車が誰でも購入できる一般向け製品となる前に、その安全性、信頼性、有効性を明確に証明し、一般の人々に示すべきだ。
