産業用ロボットが登場したのは1960年代です。その頃、最初のユニメートのロボットアームが米国のゼネラルモーターズの工場に設置されました。それから約60年が経ちましたが、簡単な家庭用機器が少しあるだけで、なぜ私たちの家には、もっと有能なロボットがいないのでしょうか。
その理由の一つは、日常生活を形づくるルールや慣習が、たとえば自動車を組み立てる工程を規定するルールほど完璧ではないことです。
日常のルールは、起こりうるあらゆる状況を網羅していません。そのため矛盾が多く、ルールに厳密に従うだけのロボットは役に立たなくなってしまいます。
ロボットが、個人の介護を担ったり、頼れる家庭料理人やシェフになったりするなど、私たちの暮らしにより深く関わるには、現在のロボットが用いる単純なルールベースの動作手順に従うだけの仕組みから脱却する必要があります。
即興で対応する
一つの解決策として、難しい状況に直面したときに即興で対応できるよう、ロボットを設計する方法があります。
ロボットは、訓練で得た過去の経験と、目の前の状況に関する情報を組み合わせて対応します。この方法では、非常に複雑な判断を下すことになるでしょう。
しかし、ロボットが社会規範に沿った行動を選ぶ保証はありません。その行動は、私たち人間にはずるい、時には無礼、さらには不公平に映るかもしれません。
では、礼儀正しく、倫理的で、誠実に振る舞うよう、ロボットにどう教えればよいのでしょうか。そもそも、それを期待するのは妥当なのでしょうか。
ロボットは即興で対応できるのか
洗濯機を考えてみましょう。ある朝、寝坊して急いで服を洗濯機に入れ、誤った洗濯コースを選んでしまいます。プログラムされたルールに従うだけの洗濯機は、そのまま動き出し、お気に入りの服を台無しにしてしまうかもしれません。困ったものです。
人工知能（AI）を搭載した洗濯機がこの事態を避けるには、複雑な判断を経て、臨機応変に対応しなければなりません。洗濯機はカメラで入れられた服のブランドを識別し、オンラインで調べて最適な洗濯コースを見つけるかもしれません。
ところが、あなたは急いでいて、さまざまな種類の生地を一緒に入れてしまいました。すると、一つの洗濯コースでは、ある服は問題なく洗えても、別の服はすっかり傷んでしまいます。単純なAIなら、洗濯機を一時停止して、どうするかあなたにメッセージで尋ねるかもしれません。
ところが、急いでいたあなたは、携帯電話を置いてきてしまいました。AIは、今日中に洗濯を済ませる必要があると知っているので、ここでも臨機応変に対応しなければなりません。
判断の段階
次の段階では、AIがあなたにとって最も思い入れのある服を見極め、それを守るかどうか判断します。これははるかに複雑な過程です。
AIは、あなたの人生の重要な出来事を見つけるため、記録された何年分もの履歴を調べ、何気なく洗濯機に入れた服をそのとき着ていたか確認する必要があります。しかし、何が重要な出来事なのか、AIはどうやってそれを見分けられるのでしょうか。
AI搭載の洗濯機は、どの洗濯コースを使うかを決めました。大学1年のときの、ひどく汚れた白い綿のTシャツを洗うためのコースです。お湯を使い、すすぎを長めにします。
この即興の判断でほかの服が傷んだかもしれませんが、その日の夕方、昔の友人との同窓会にお気に入りのTシャツを着ていけることになりました（AIはあなたの予定表を確認していました）。
こうしたことは、どのくらい現実的なのでしょうか。
世界各地のロボット工学やAIの研究者はすでに、学習して即興で対応できるロボットを実証しています。
ロボットのマリンバ奏者シモンは2015年からジャズバンドで演奏し、会場を満員にしてきました。人間のバンドメンバーが即興演奏する音を聴き、それに加わります。
音楽を即興で演奏するロボットも驚きですが、ずるをしたり、人を欺いたりするロボットは、まったく別の意味で恐ろしい発想です。
2010年、ジョージア工科大学の研究者は、あるロボットが別のロボットの弱点につけ込み、相手を欺くことができると実証しました。実験では、ロボットにかくれんぼをさせました。一方のロボットは、別の場所にいるふりをしながら、実際には別の場所に隠れていました。
ロボットやAIにずるをする能力を持たせる利点は、人間とロボットの相互作用（HRI）の研究の一環として調べられています。これまでに報告された結果の一部によると、ずるをするロボットには、より人間らしい特徴があり、それが、より自然なやり取りにつながり、ロボットと関わる人々との交流を円滑にします。
哲学的な議論
機械の道徳性というテーマは深く複雑で、簡単な答えはありません。しかし、道徳哲学に根ざした議論を呼び起こすテーマです。
この議論は、20世紀半ばのSF文学から始まりました。とりわけ、アイザック・アシモフが1942年の短編『堂々めぐり』で示した「ロボット工学三原則」がその端緒です。ロボットやAIの能力が高まるにつれ、この議論は私たちの生活の中心的な課題になりつつあります。
哲学者たちはすでに、道徳的な機械がもたらす課題や機械と道徳的推論について問いを投げかけ、HRIの研究者たちに次のようなメッセージを送っています。
[…] 願い事には気をつけるべきだ……かなうかもしれないのだから。したがって、コンピューターにどのような能力をプログラムし、どのような責任を負わせるかについて、十分慎重になるべきです。結局、機械がやって来るのなら、それを作っているのは人間なのです。
今日も私たちは、機械の道徳性や、AIやロボットに善悪を理解するよう教えられるのかという問いを投げかけています。
道徳的な指針を備えた高度なロボットを作れるようになるまでには、まだ長い道のりがあります。
この問題をめぐる議論は、より優れたロボットの開発に役立つだけでなく、私たち自身の倫理的な実践を振り返る機会にもなり、より良い人類へと向かうきっかけになることが期待されます。
