あなたの 自律型掃除機 は床を掃除してくれます。時折、物にぶつかったり、ボタンや電話番号の書かれた紙切れを吸い込んだりしても、大きな問題にはなりません。とはいえ、後者は厄介です。何かが書かれていることに気づいて知らせてくれる機能があれば望ましいでしょう。人間の清掃員ならそうするはずです。
お子さんがロボットのおもちゃで遊んでいるとき、車輪や腕、目が時折勝手に動いても、さほど心配はしないでしょう。子どもにとっては、むしろそのほうが楽しいかもしれません。そのおもちゃは、危害を加えるほどの力を持たないよう設計されていると分かっているからです。
では、自動車の部品を拾い上げて車に取り付けるために設計された工場用ロボットの場合はどうでしょうか。明らかに、ロボットが暴走したときに近くにいたいとは思わないでしょう。特定の作業を行うよう事前にプログラムされており、あなたが近づいても歓迎しないかもしれないと分かっているからです。この種のロボットは、作業員であっても近づけないよう、柵や囲いで隔離されることがよくあります。しかし、何かを組み立てたり、ほかの作業を完了したりするために一緒に働く必要がある、将来の自律型ロボットについてはどうでしょうか。役に立つほど強力なら、予想外のけがを負わせるほど強力でもあるのではないか、と考えるかもしれません。
模型飛行機を飛ばすなら、GPS搭載コンピューターを機内に設置して、ウェイポイントに沿って飛行させ、空撮写真を連続して撮ることもできるでしょう。懸念点は二つあります。第一に、機体が一時的に視界から外れる飛行の合法性です。何らかの不具合が起きても気づかず、安全のために自動操縦を解除しなければならない場合があります。第二に、必要な場合に安全な緊急着陸ができるほど、搭載ソフトウェアが十分適切に作られているかどうかです。一般市民を危険にさらしたり、空中にあるもの、あるいはそれ以外のものに損害を与えたりする可能性はないでしょうか。
周囲の環境を認識する知能センサーシステムを備えた最新の高級車は、二つの望ましくない選択肢のどちらかを選ばざるを得ないかもしれません。突然道路に現れた車に衝突するか、ブレーキをかけて後続車に追突されるかです。複数の自律走行車の車列を走る自動運転車の乗客なら、車列が交差点や道路工事の場所に着いたとき、あるいは車列内の車両が故障したとき、車がどう動くのか疑問に思うかもしれません。自律システムは、周囲の歩行者や車両を傷つけることなく、仮設の障壁や突然の混乱を安全に切り抜けられると信頼できるでしょうか。
適切な時に、正しい選択を
こうした問いは、将来の半自律型・自律型ロボットを設計し、プログラムする人々に現実的な課題を突きつけます。起こり得るあらゆる危険な状況を予測して考慮に入れるか、ロボット自身が解決できるようにする必要があります。またロボットは、周囲の物体を安全に認識し、それらとの機能的な関係を把握して、次の動きについて安全な判断を下せる必要があります。そして、私たちの要求に応えられる場合を判断できなければなりません。
ヒューマノイドロボットなど一部の用途では、責任の所在がメーカー、ロボット、所有者のいずれにあるのか、現時点では明確ではありません。損害や危害が生じた場合、ユーザーがロボットに誤ったことを教えた、あるいは不適切な要求をした可能性もあります。
法的枠組みはこれから導入される必要があり、現時点ではまったく整備されていません。さまざまなソフトウェアシステムが使われる場合、ロボットの判断が安全かどうか、どう確認できるのでしょうか。自律型ロボットを認証する英国の当局が必要でしょうか。ロボットが守るべき規則はどのようなもので、実際のあらゆる状況で安全であることを、どのように検証するのでしょうか。
EPSRCの支援を受けた研究は、 最近開始した もので、シェフィールド大学、リバプール大学、ブリストルの西イングランド大学で、自律型ロボットの安全性を高めるため、こうした問いへの答えと解決策の確立を目指しています。3年間のプロジェクトでは、ロボットの意思決定プロセスを形式的に検証し、最終的には法的に認証する方法を検討します。こうした仕組みを構築する方法を定めることは、（弁護士と協議しながら）法的枠組みの策定にも役立ち、英国のロボット産業の発展につながることが期待されます。
この記事は、 The Conversationとの協力により掲載されています。掲載は、世界経済フォーラムが見解を支持することを意味するものではありません。
フォーラム：Agendaの最新情報を受け取るには、 週刊ニュースレターにご登録ください。
著者：Sandor Veresは、シェフィールド大学の教授であり、自律システム・ロボティクス研究グループのディレクターです。
画像：高齢者や障害のある人の家庭生活を支援するために設計されたロボット「Twendy-One」が、2009年1月8日、東京の早稲田大学でトーストを提供する様子を実演。REUTERS/Issei Kato