自律型機械の意思決定は、致命的な誤りにつながる可能性があります。
ロボットの誤作動による死亡事故は、「トロッコ問題」と同様の道徳的ジレンマを生みます。
社会が機械学習を受け入れ、ロボット技術の責任ある導入に取り組めば、多くの命を救えるという見方があります。
ロボット工学の進歩により、自動運転車、産業用ロボット、医療用ロボットは、今後20年間でさらに高性能になり、自律性を高め、広く普及していくでしょう。やがて、こうした自律型機械の意思決定ミスが何十万人もの死亡につながる可能性がありますが、人間が介在していれば防げたかもしれません。
そうした未来はかなり不安を感じさせますが、社会がロボット技術を責任を持って導入すれば、失われる命より救われる命のほうが多くなるでしょう。
機械学習のプロセス
ロボットは、人間の意思決定をまねるよう人間に「プログラム」されるのではありません。データから導き出された複雑な数式を使い、「赤信号を認識する」といったタスクを実行するため、大規模なデータセットから学習します。この機械学習のプロセスには、人間が必要とするよりはるかに多くのデータが必要です。しかし、学習を終えると、ロボットはどのようなタスクでも人間を上回る性能を発揮します。過去5年間、AIとロボット工学は機械学習を通じて、その性能を飛躍的に向上させてきました。
自動運転を例に考えてみましょう。以下の議論は、医療、製造業など自動化が急速に進む分野にも当てはまります。熟練した人間のドライバーは、生涯で数十万マイルを運転する経験を積むかもしれません。一方、Google傘下の自動運転車会社Waymoは、2021年だけで230万マイルを超える走行を達成しました。同社のAI技術は、配備したすべての車両から一斉に学習します。車は疲れることも、学んだことを忘れることもありません。
テスラが、車の所有者が乗っていなくても駐車スペースから出て障害物を避けながら移動できる「スマート・サモン」機能を初めて導入したとき、多くのユーザーが性能の低さを訴えました。しかし数週間のうちに、テスラは初期ユーザーからデータを集め、機械学習モデルを再学習させました。その結果、スマート・サモン機能の性能は大幅に向上し、テスラの重要な差別化要因となっています。
自律型ロボットが救う命
学習に使えるデータが増えるにつれて、AIは急速に進歩し、精度、適応性、安全性が高まっています。ロボットが日常生活で広く使われるようになるにつれ、その用途も広がり、機能的なロボットの段階的な導入戦略が示されています。自動運転は「運転に手を添える」段階から「手を離す」段階、「目を離す」段階、「意識を向けない」段階へと進み、最終的には「ステアリングホイールがない」状態に至るでしょう。
好例が、中国のWeRideです。この自動運転車会社は、中国の複数の都市で自動運転バスや道路清掃車を配備しています。現在、これらの車両はロボタクシーよりも制約の多い環境で運行しており、人間の運転者と比べて安全性が大幅に向上しています。それでも、こうした制約下の車両は膨大なデータを収集し、いずれはその制約から解放されるでしょう。
ロボットが単純なものから複雑なものへと進化するにつれて、性能と安全性を高めるため、より多くのデータが収集されるでしょう。たとえば、道路事故の最も一般的な原因であるヒューマンエラーを減らすことで、自動運転車は英国だけでも重大事故を47,000件防ぎ、3,900人の命を救う可能性があります。RAND研究所は、自動運転車は人間より安全性がわずか10％高いだけでも命を救うと明らかにしました。
道徳的ジレンマ
ロボットの大規模導入には、機械の誤りによって人命が一つでも失われることへの道徳的な異議など、依然として大きな懸念があります。トロッコ問題とは、暴走するトロッコの進路を変えれば5人を救える一方で、1人が犠牲になるという倫理的ジレンマです。この問題は、誰が生き、誰が死ぬかを決めることが本質的に道徳的判断であり、感情のない機械に委ねられない理由を示しています。
ロボットと人間では物事の捉え方が異なり、間違いの種類も違うため、この「道徳的ジレンマ」はさらに複雑になります。たとえば、ロボットは稲妻のような反射神経と揺るぎない注意力を備えていますが、危険を誤認することがあります。Uberの自動運転車が、道路を自転車を押して横断していた歩行者を、車だと認識し、実際より速く走るだろうと予測したのがその一例です。
人間と機械の誤りの違いによって、ロボットによる死亡事故を社会が受け入れることは難しくなります。特に、事故のたびに2018年にフェニックスで起きた死亡事故と同じようなメディアの反応があれば、なおさらです。メディアがロボットによる死亡事故をことさらに非難し、厳しい見出しで報じれば、自律システムが何百万人もの命を救う可能性を秘めていても、その信頼を損なうおそれがあります。
人間のドライバーが死亡事故を起こせば、法律に基づく裁きと処罰を受けます。しかし「AIのブラックボックス」は、その意思決定を裁判官や社会に対して、人間に理解でき、法的・道徳的に正当化できる形で説明できません。
もう一つの問題は責任の所在です。フェニックスの事故では、人間の予備運転者が過失致死罪で起訴されました。しかし、自動車メーカー、AIアルゴリズムの提供者、あるいはアルゴリズムを書いたエンジニアにも責任を負わせるべきでしょうか。責任の所在が明確になって初めて、それを支えるエコシステムを構築できます。
AIと機械学習の時代のトロッコ問題
多くの命を救える可能性があるため、ロボット技術が人間よりわずかに優れていると確認された時点で導入するべきだという議論があります。したがって、ロボットにより大きな自律性を与える前に、人間を支援するロボットツールを導入する機会を最大限に生かすべきです。その後、より広く利用可能にする前に、制約のある環境で段階的に導入します。こうすることで、より多くのデータを集め、ロボットの性能を高め、失われる命を最小限に抑えられます。
予想される反対意見を踏まえ、短期的な痛みと、そこに伴う長期的な利益を社会全体で伝える取り組みが必要です。そうすることで、ロボットの責任ある慎重な導入を進め、この技術の普及が人類により大きな恩恵をもたらすようにできます。
