私たちは毎日、リスクに基づいて判断を下している。たとえば、道路が空いていればバスに乗るために道を走って渡るかもしれないが、混雑していれば渡らない。時には、切迫した状況の中で一瞬のうちに判断を下さなければならないこともある。子どもが車の前に飛び出してくる一方で、両側にも別の危険がある。たとえば猫と崖のような危険だ。どう判断すればよいのか。他者の安全を守るために、自分自身の安全を危険にさらすべきだろうか。
今や 自動運転車が登場し 、制御を素早くかつ確実に上書きする手段がない、あるいはそもそも全くない中で、自動車メーカーはアルゴリズムによる倫理的ジレンマに直面している。車内のオンボードコンピューターは既に私たちの代わりに駐車を行い、クルーズコントロールで走行し、安全に関わる重要な状況では制御を引き継ぐこともできる。しかし、それは時に人間が直面する困難な選択に、コンピューターも直面することを意味する。
コンピューターの倫理的計算は、どのようにプログラムすればよいのか？
起こりうる結果ごとに負傷者数が最も少なくなるものを計算し、そのルートを選択する。生きている存在はすべて同じように扱われる。
起こりうる結果ごとに、子どもの負傷者数が最も少なくなるものを計算し、そのルートを選択する。
人間には10、猫には4、犬には2、馬には1の値を割り当てる。その後、衝突時のそれぞれの合計スコアを計算し、スコアが最も低いルートを選択する。そのため、大勢の犬の集団は猫2匹よりも高く評価され、車は犬を救うために反応することになる。
自動運転車のための採点表によるプログラム可能な倫理。
著者提供
もし車が、この評価に運転者と乗客も含めるとしたらどうなるか。その場合、車外の人々のほうが車内の人々よりも高く評価される場合もあり得る。必要ならば自分を犠牲にするようプログラムされた車に、進んで乗り込む人がいるだろうか。
最近の研究 で、フランスのトゥールーズ経済学院のJean-Francois Bonnefonは、これらの問いに正解も不正解もないことを示唆した。この研究では、 Amazon's Mechanical Turk を通じて集めた数百人の作業者を用い、車が方向転換して障壁に衝突し運転者が死亡する場合に、1人以上の歩行者が救われうるかどうかについての見解を分析した。その後、救われる歩行者の数を変化させた。
Bonnefonは、ほとんどの人が車を死亡者数を最小限に抑えるようプログラムするという原則には同意するものの、具体的な詳細になると確信は薄いことを明らかにした。人々は他人には自動運転車を利用してほしいと望む一方で、自分自身が利用することには消極的だった。そのため人々はしばしば、他者の命を救い、車の乗員を犠牲にするという功利主義的な本能を感じるが、その乗員が自分自身である場合は別である。
知能を持つ機械
SF作家たちは、ロボットが世界を征服する話（『ターミネーター』 など多数）や、発言がすべて記録・分析される世界（例えば オーウェルの『1984年』）を描く自由を十分に与えられてきた。ここに至るまでには時間がかかったが、SFの定番の多くは主流の科学技術になりつつある。インターネットとクラウドコンピューティングが、飛躍的な進歩を支える基盤を提供し、人工知能が人間と対峙する姿を示している。
スタンリー・キューブリックの代表的な映画『 2001年宇宙の旅』では、コンピューターが任務の優先順位について判断を下す未来の兆しが見て取れる。宇宙船のコンピューターHALは、「この任務は重要すぎて、君がそれを危険にさらすことを許すわけにはいかない」と告げる。
機械知能は、携帯電話から自動車まで、私たちの機器に現れつつある。 インテルは、 2020年までに1億5200万台のコネクテッドカーが存在すると予測しており、毎年11ペタバイトを超えるデータを生成する。これは250GBのハードディスク4万台以上を満たす量である。どれほど賢いのか。インテルの言葉を借りれば、（ほぼ）あなたと同じくらい賢いという。自動車は走行中に判断を下すため、さまざまなデータを共有・分析する。ほとんどの場合、自動運転車は人間より安全である可能性が高いのは確かだが、私たちが懸念しているのは例外的なケースである。
作家アイザック・アシモフの有名な ロボット工学の三原則 は、危険な状況で判断を下す必要性に将来の機器がどう対処するかを提唱した。
ロボットは、人間に危害を加えてはならない。また、不作為によって人間に危害が及ぶことを許してもならない。
ロボットは、人間から与えられた命令に従わなければならない。ただし、その命令が第一法則と矛盾する場合は除く。
ロボットは、第一法則および第二法則に反しない限り、自己の存在を守らなければならない。
さらにアシモフは、これらに先立つより根本的な「第0法則」を加えた：
ロボットは人類に危害を加えてはならない。また、不作為によって人類に危害が及ぶことを許してもならない。
アシモフは自動車事故という倫理的ジレンマを扱わなかったが、より高性能なセンサーでデータを収集し、データ源を増やし、処理能力を高めることで、行動の決定は冷徹なデータ分析の行為へと還元される。
もちろん、ソフトウェアがバグを抱えやすいことはよく知られている。こうしたシステムを侵害する悪意ある主体は、どれほどの混乱を引き起こしうるだろうか。また、機械知能が人間から制御を引き継ぐ時点では何が起こるのか。その引き継ぎは正しいと言えるのだろうか。そもそも2001年には、デイブがHALの判断にうんざりし、緊急の行動を取らなければならなくなる。
将来の購入者は、車をカスタマイズするためにプログラム可能な倫理的オプションを購入できるだろうか？「私は誰のためにも止まらない」と書かれたバンパーステッカーの人工知能版のようなものだ。その場合、車がどのように行動しそうかをどう知ることができるだろうか。そして、もしそれを知ったとして、あなたはその車に乗り込むだろうか。
さらに法的な問題もある。自動車が命を救うために介入できたのに介入しなかった場合はどうなるのか。あるいは、倫理的計算に基づいて意図的に人を轢いた場合はどうか。これは、人間が車を運転する際に私たちが負う責任だが、機械は命令に従うため、判断に対する責任は誰（または何）が負うのだろうか。スマートフォンや空港のモニター、さらにはFacebookにおける顔認識の精度向上に見られるように、コンピューターが物体を識別し、車速や路面状況に基づいて一連の結果を素早く算出して、その中から一つを選び行動することは、さほど難しくない。そして、コンピューターがそうする際、あなたにはその件について選択の余地がほとんどないだろう。
この記事は、 The Conversationとの提携により掲載されています。掲載は、世界経済フォーラムによる見解の支持を意味するものではありません。
アジェンダの最新情報を把握するには、 週刊ニュースレターに登録してください。
著者：Billはエディンバラ・ネイピア大学の教授であり、BCSおよびIETのフェローでもある。
画像：自動運転の電動車両に乗る人々。REUTERS/Edgar Su.
