近年、人工知能（AI）の倫理、とりわけ ロボット兵器の開発 に関する議論が活発に行われており、それに関連しつつもより一般的な議論として、AIを実存的な 人類への脅威とみなすべきかどうかという議論も続いています。
映画『ターミネーター』に登場するスカイネットが私たちを絶滅させようとしているのであれば、規制や法的責任について論じ始めることは、無意味ではないにせよ、いささか悠長に思えます。しかし、法哲学者ジョン・ドナハーは 指摘しているように、これらの分野に迅速かつ慎重に取り組めば、長期的には実存的リスクの低減に役立つ可能性があります。
AIに関して言えば、規制と法的責任は、安全性と公共の福祉という同じコインの表裏です。規制はAIシステムをできる限り安全にすることを目的とし、法的責任は、何か問題が起きたときに誰を非難できるのか、より正確に言えば誰に法的救済を求められるのかを明らかにすることを目的とします。
責任の所在
まず法的責任から考えてみましょう。不法行為（民事上の不法行為）責任について検討します。近い将来に起こりうる次のような場面を想像してください。無人トラクターがAさんの畑に種をまくよう指示されたにもかかわらず、実際にはBさんの畑に種をまいてしまいます。
Aさんが適切な指示を出していたと仮定しましょう。また、畑の境界に無線ビーコンを設置するなど、Aさんが追加で行うべきことは何もなかったとも仮定します。ここで、Bさんが過失を理由に訴訟を起こしたいと考えているとしましょう（簡便さと迅速さのため、生活妨害（ニューサンス）や不法侵入については取り上げないことにします）。
Aさんに責任があるでしょうか。おそらくないでしょう。トラクターの製造者に責任があるでしょうか。その可能性はありますが、注意義務と注意水準をめぐって複雑な論点が生じるでしょう。例えば、関連する業界標準は何か、また、その基準に照らして製造者の仕様は適切か、といった点です。さらに、望まない播種が財産的損害にあたるのか、それとも純粋な経済的損失にあたるのかという問題も生じるでしょう。
これまでのところ、トラクターの製造者がシステムソフトウェアを開発したと暗黙のうちに想定してきました。しかし、第三者がそのAIシステムを開発していたらどうでしょうか。複数の開発者によるコードが含まれていたらどうでしょうか。
時間の経過とともに、AIシステムが従来のアルゴリズムやコーディングから離れるほど、その挙動は、開発者が予想していなかっただけでなく、まったく予見しえないものとして現れるようになるでしょう。これが重要なのは、 予見可能性 が過失による責任の重要な要素だからです。
予見可能性の問題をより深く理解するために、上記の播種事故からおそらく10年か20年ほどしか経っていない時点を想定してみましょう。高度で完全自律型のAIロボットが誤って人間を負傷させたり死亡させたりしたとしても、法律には大きな変更がないという状況です。このシナリオでは、予見可能性の欠如によって、過失による責任を負う者が一人もいないという結果になりかねません。
AIロボットに責任を問う
ロボット自体に責任を認めてはどうでしょうか。実際、すでに一定の議論がなされているのは、 AIの法人格 や、 AIシステムの刑事責任の可能性についてです。
しかし、そのアプローチは、ここで実際に違いをもたらすでしょうか。最近、ある旧友が私にこう言いました。
AIシステムは、本当にアイザック・アシモフの『バイセンテニアル・マン』のように、法律に従順で、道徳的良心を持ち、しかも多額の預金残高を抱えるようになるのでしょうか。
AIシステムを訴えることができるかどうかは脇に置くとして、AIの製造者や開発者は、おそらく再び検討の対象に含める必要があるでしょう。これは、過失責任を 厳格責任 に置き換えることを意味するかもしれません。厳格責任とは、過失や落ち度の立証をまったく必要とせずに適用される責任のことです。
多くの地域では、欠陥製品に関する請求について、既に厳格責任が存在しています。あるいは、AI産業が拠出する請求プールを伴う無過失責任制度を設けることも考えられます。
規則と規制
規制の観点からは、厳格な安全基準の策定と安全認証プロセスの確立が不可欠となるでしょう。しかし、適切な制度・プロセスの枠組みを設計し運用することは、難しいものとなるでしょう。
この分野の複雑さと、AI研究開発コミュニティ以外での理解不足が一般的であることから、いかなる枠組みを構築する際にもAIの専門家の意見が必要になるでしょう。これはまた、立法府や政府に対する諮問委員会を、できる限り早急に設置すべきであることを意味します。
AIには大きな便益が潜在している点を認めつつ、イノベーションを阻害したり、不必要な遵守負担を生み出したりすることなく、公共の福祉と安全を最大化する基準とプロセスを策定、更新、執行するための、絶え間ないバランス調整が求められます。
策定されるいかなる枠組みも、国内的な考慮事項（各国における自国生産とAI技術の輸入の割合）と、国際的な考慮事項（各国間での安全基準と認証の相互承認の可能性、今後の国際条約や協定などへの遵守の必要性など）の双方を考慮できるだけの柔軟性を備えていなければなりません。
したがって、AIの研究開発という道を進んでいくにつれ、おそらく手遅れになる前に、AIを取り巻くルールを形づくり始める必要があるのは確かです。
無人運転車をめぐる議論は既に始まっています（ こちら と こちら をご覧ください）。しかし、AIに関しては取り組むべき課題がはるかに多くあります。
次に私たちは何をすべきでしょうか。ここからはあなたの番です。
この記事はもともと The Conversationに掲載されたものです。こちらの 原文記事をお読みいただけます。掲載は、世界経済フォーラムによる見解の支持を意味するものではありません。
『アジェンダ』の最新情報を追うには、 週刊ニュースレターにご登録ください。
執筆者： Gary Lea は、人工知能規制分野の客員研究員として、 オーストラリア国立大学に在籍しています。
画像：男性がロボット型の義手と握手している。REUTERS/Rick Wilking
