ほとんどのロボットは人工知能（AI）によって機能し、人間のような判断を下すことができます。
ロボットが下せる判断が複雑になるほど、事故が起きる理由を理解することは難しくなり、同時に重要性も増します。
RoboTIPSプロジェクトは、ロボットのすべての入力とそれに対応する動作を記録する「倫理的ブラックボックス」を開発しました。同じ過ちが繰り返されないようにするためです。
ロボットは私たちの日常生活でますます活躍しています。非常に役立つもの（バイオニック義肢、ロボット芝刈り機、あるいは食事を届ける隔離中の人々に食事を届けるロボットなど）もあれば、単に楽しませてくれるもの（ロボット犬、踊るおもちゃ、アクロバット飛行をするドローンなど）もあります。将来、ロボットにできることを制限するのは、おそらく想像力だけでしょう。
では、ロボットが私たちの望むとおりに動かなかったり、危害をもたらすような動作をしたりしたら、どうなるでしょうか。たとえば、バイオニックアームが交通事故に巻き込まれた場合はどうでしょうか。
ロボット事故が懸念される理由は2つあります。第一に、ロボットの数が増えれば、ロボットが関与する事故の件数も当然増えるでしょう。第二に、より複雑なロボットを作る技術が向上しています。ロボットが複雑になるほど、何が原因で不具合が起きたのかを理解するのは難しくなります。
ほとんどのロボットは、さまざまな形態の人工知能（AI）を利用しています。AIは人間のような判断を下すことができます（ただし、その判断が客観的に見て良い場合も悪い場合もあります）。こうした判断には、物体の識別から音声の解釈まで、さまざまなものがあります。
AIは膨大なデータセットの情報に基づき、ロボットのためにこうした判断を下せるよう訓練されます。その後、AIはタスクを与えられる前に、正確さ（私たちの望むとおりに動作するか）が検証されます。
AIの設計方法はさまざまです。ロボット掃除機を例に考えてみましょう。何かにぶつかるたびに、ランダムな方向へ進路を変えるよう設計することもできます。逆に、周囲を地図化して障害物を見つけ、床全体を掃除し、充電台に戻るよう設計することもできます。前者の掃除機がセンサーから入力を受け取るのに対し、後者はその入力を内部の地図システムに記録します。どちらの場合も、AIは情報を受け取り、それに基づいて判断を下しています。
ロボットにできることが複雑になるほど、解釈しなければならない情報の種類も増えます。また、1種類のデータについて複数の情報源を評価する場合もあります。たとえば音声データなら、直接聞こえる声、ラジオ、風の音などです。
ロボットが複雑になり、さまざまな情報に基づいて動作できるようになるにつれ、特に危害が生じた場合には、ロボットがどの情報に基づいて動作したのかを特定することがますます重要になります。
事故は起こる
どんな製品でもそうであるように、ロボットにも不具合が起きることがあります。ロボットが音声指示を認識できないなど、内部の問題である場合もあります。ロボットのセンサーが損傷するなど、外部の問題である場合もあります。また、カーペット上で動作するよう設計されていないロボットが「つまずく」など、両方が原因の場合もあります。ロボット事故の調査では、あらゆる潜在的な原因を検討しなければなりません。
不具合が起きたときにロボットが損傷するのは不便かもしれませんが、私たちがはるかに懸念するのは、ロボットが人に危害を加えたり、危害を防げなかったりすることです。たとえば、バイオニックアームが熱い飲み物をつかみ損ねて持ち主にこぼしてしまう場合や、介護ロボットが、体の弱い利用者が転倒したときに助けを求める声を検知できない場合です。
ロボット事故の調査は、人間の事故の調査とどう違うのでしょうか。特に、ロボットには動機がありません。私たちが知りたいのは、ロボットが特定の入力を受けたうえで、なぜその判断を下したのかということです。
バイオニックアームの例では、利用者と手の間で意思疎通に問題があったのでしょうか。ロボットが複数の信号を取り違えたのでしょうか。予期せずロックしたのでしょうか。人が転倒した例では、大きなファンの音にかき消されて、ロボットが助けを求める声を「聞き取れなかった」のでしょうか。それとも、利用者の話し言葉を解釈するのに苦労したのでしょうか。
ブラックボックス
ロボット事故の調査には、人間の事故調査にはない重要な利点があります。ロボットには、内蔵された証人となるものを搭載できる可能性があるのです。民間航空機にも同様の証人があります。ブラックボックスこれは、航空機事故に耐え、事故が起きた理由を示す情報を提供できるよう作られています。この情報は、事故を理解するだけでなく、再発を防ぐうえでも非常に貴重です。
人とやり取りするロボットであるソーシャルロボットの責任あるイノベーションに焦点を当てたプロジェクト、RoboTIPSの一環として、私たちは「倫理的ブラックボックス」と呼ぶものを開発しました。これは、ロボットの入力とそれに対応する動作を記録する内部記録です。倫理的ブラックボックスは、搭載されるロボットの種類ごとに設計され、ロボットが動作の根拠とするすべての情報を記録できるよう作られています。記録対象には、音声、映像、さらには脳波活動も含まれます。
私たちは、実験室と事故を模擬した状況の両方で、さまざまなロボットを使って倫理的ブラックボックスを試験しています。あらゆるメーカーの、あらゆる用途のロボットに倫理的ブラックボックスが標準搭載されることを目指しています。
事故の際には、倫理的ブラックボックスが記録したデータを解釈する必要がありますが、調査を可能にするには、まずそのデータが存在することが不可欠です。
調査の過程は、同じ過ちを二度と起こさないようにする機会となります。倫理的ブラックボックスは、より優れたロボットを作るだけでなく、刺激的で活気のある分野で責任あるイノベーションを進めるための手段です。
