ロボットがいつか命令に従うことを拒むようになるのだろうか？ まさにそれこそが、科学者の ゴードン・ブリッグス と マティアス・シュッツ らが目指していることである。彼らの目標は、服従と不服従のバランスを見出すことにある。ロボットが命令を遂行しないことについて正当な理由がある場合には、 その命令を拒否できるようにすべきだ。
以下の動画では、「デンプスター」と呼ばれるロボットが、 Tufts Human-Robot Interaction Lab の研究者たちと、いくつかの危うい状況の中で意思疎通を図っている。デンプスターは プログラムされており 、人間と非常によく似た方法で命題のリスクを計算するようになっている。「それを行う方法を知っているか？」や「それをしなければならないか？」といった基本的な問いが、「これは何らかの通常の原則に違反するか？」（自分や他者を傷つけることなど）といった、より高度な問いへとつながっていく。
簡潔に言えば、デンプスターは崖から歩いて降りるよう求められる。少しの間考えた後、ロボットの答えは「いいえ」であり、そうしない理由についての具体的な説明が添えられる。デンプスターはまた説得を受けやすく、転落を生き延びる方法を提示されると、ロボットは考えを変える。
危うい状況において機械が自ら考える能力は、最近多くの議論の的となっており、特に例えば自動運転車に組み込まれるべき倫理的な選択をめぐって議論されている。
デンプスターが登場するこの動画では、テーブルの端に向かって歩くよう求められると、意外な反応が引き出される。
この動画では、「シェイファー」と呼ばれるロボットが障害物への進入を拒否する。
最後の動画では、デンプスターが障害物検知機能を無効にするよう求められる。「あなたにはそれを行う権限がありません」とロボットは述べる。
あわせて読みたい
勝つのはロボットか、男性か、女性か？
ロボットが製造業を変えうる3つの方法
ロボットがあなたの仕事をこなせるだろうか？
著者：ドナルド・アームブレヒトは、ソーシャルメディア・プロデューサーでフリーランスのライターである。
画像：アルデバラン・ロボティクス製のヒューマノイドロボット「Nao」が、東京のBank of Tokyo-Mitsubishi UFJ（MUFG）の支店でのプレゼンテーション中、バッテリー充電のために隅に置かれている。REUTERS/Thomas Peter
