支配。私たちは皆、自分が支配していると思いたいものですが、それはすべて幻想にすぎないのでしょうか。非常に実存的な問いに思えるかもしれませんが、新しいテクノロジーを受け入れるうえで重要な役割を果たします。とりわけロボットに関してはそうです。
たとえ自分自身では何かを支配できなくても、誰かほかの人が支配していると考えて安心したくなることがよくあります。人間には自由意志と共感力があり、何か悪いことが起きたときには「正しい」選択をすると、私たちは信じています。
問題は、人間は予測不可能だということです。地球上には76億人が暮らしています。一人ひとりが独自の道徳観や倫理観を持ち、その行動を形作るさまざまな経験を一生にわたって重ねています。また、各人の心理的な構成もそれぞれ異なり、ストレスのかかる状況での反応を左右します。
運転免許の学科試験では、トロッコ問題について問われることはありません。これは有名な思考実験で、次のように置き換えられます。車を運転中、子どもが目の前に飛び出してきて、はねる前に止まるには近すぎるとします。子どもを避けて左にハンドルを切れば歩行者にぶつかり、右に切れば対向車に衝突して、自分と相手の運転手が命を落とします。あなたならどうしますか。
まず、できる限り強くブレーキをかけます。そのうえで、3つの選択肢のうちどれを選ぶか決めなければなりません。正解はありませんが、どれを選ぶかは無意識のうちに決めるでしょう。自分の判断を正当化するため、さまざまな条件を考慮するかもしれません。もちろん、考慮した要因をすべて自覚することはまずないでしょう。誰もが、あなたがどうしようもない状況に置かれたことに同意するはずです。
不可能な決断と説明責任
では、状況を少し変えてみましょう。あなたは自動運転車に乗っていて、同じ事故が起きます。車はできる限り強くブレーキをかけますが、3つの選択肢のうちどれを選ぶか、誰が決めたのでしょうか。あなたの場合と違い、その判断と、決定に用いられた感覚入力は追跡できます。説明責任の水準は大幅に高まる可能性があります。この種の状況は何千回もシミュレーションでき、その結果を予測して検証できます。人間が結果を車にプログラムすることになります。しかし、それを一人で行うのではありません。科学、政治、社会の各分野にまたがる合意が形成されるでしょう。
人間による制御が自動制御に置き換わると、安全性が高まり、事故が減ることは、歴史が示しています。それは20世紀初頭のエレベーターであれ、20世紀後半の航空機であれ同じです。自動化された交通機関にも同様の利点が見込まれます。
殺人ロボット
しかし、支配権を手放すことへの恐れが深刻な影響をもたらしかねない分野が一つあります。その深刻さゆえに、国連がこの問題の議論を始めています。それは殺人ロボットです。生活のほぼあらゆる分野で自動化が進むなか、反対する人々もいましたが、最終的には、潜在的な利点を示すために公開の場で理性的な議論が行われてきました。しかし、産業革命期のラッダイト運動以来、これほどの感情的な反応と扇情主義を引き起こしたテーマはありません。
この分野のAI研究を制限すれば、扇情的な動画「スローターボット」が予測するようなディストピア的な未来を防げると主張する人さえいます。戦争や暴力は感情を揺さぶるテーマですが、人類がそれらから永遠に解放されると考えるのは甘いでしょう。議論は双方とも非常に複雑です。戦争でロボットを使うことをめぐっては、結局のところすべてが支配に行き着きます。
自律型兵器に関する最大の懸念は、誰でも作れてしまうことです。低価格のロボット（おもちゃのドローンでもよいでしょう）とカメラ、インターネット上のコードがあれば、自律型の殺人ロボットができあがります。兵器を取り付ける必要すらありません。クアッドコプターに石を縛り付けて空から頭上に落とせば、爆発物と同じくらい簡単に人を殺せます。金属棒を取り付けて航空機のエンジンに突っ込ませれば、飛行機を墜落させることもできます。
殺人ロボットには画像処理、顔認識、位置情報の取得機能が必要です。これらはすでに、私たちの生活のほぼあらゆる場面に組み込まれています。顔認識を使ってノートパソコンのロックを解除できますし、誰もがスマートフォンに衛星ナビを搭載しているため、こうした技術の研究を止めるのは現実的ではありません。移動ロボットは日常生活でますます普及しており、その進歩を止めることは難しいでしょう。
こうしたロボットがいずれ、誰を殺すかを自ら決めるようになると恐れる人もいます。しかし、社会がその現実に至るまでには、まだ長い道のりがあります。たしかに、人を殺すことはプロの暗殺者を雇うより簡単になるかもしれませんが、人を殺すのに高度な技術は必要ありません。昨年、車がテロの凶器として使われたからといって、誰も自動車の禁止を求めていません。利点がリスクをはるかに上回るからです。
街を歩きながら、自分の人生を本当に自分で支配しているのか、自問してみてください。私たちはすでに支配権を手放しているのではないでしょうか。タクシーや飛行機、バスに乗るたびに、そうしているのではありませんか。世界のあらゆる側面に、支配しているという幻想があります。しかし、別の人間が支配しているように見えると、人々はその人を信頼し、疑わしい点があっても大目に見るようです。
実際には、機械は人間よりはるかに信頼性が高く、説明責任も果たせます。社会が幻想を見抜き、実際的な決断を下すときが来ているのかもしれません。支配権を手放し、機械やロボットに設計どおりの役割を果たさせるのです。
