知能を持つ機械は、どの時点で「人」とみなされるべきか?

Honda's latest version of the Asimo humanoid robot runs during a presentation in Zaventem near Brussels July 16, 2014. Honda introduced in Belgium an improved version of its Asimo humanoid robot that it says has enhanced intelligence and hand dexterity, and is able to run at a speed of some 9 kilometres per hour (5.6 miles per hour). REUTERS/Francois Lenoir (BELGIUM - Tags: SCIENCE TECHNOLOGY BUSINESS SOCIETY) - RTR3YVQI
Computers still have a long way to go before they match human intelligence.Image: REUTERS/Francois Lenoir
このページは、生成AIにより自動翻訳されています。

SFでは、ロボットは自律型機械として描かれることが多い。自ら判断を下し、しばしば独自の個性を表現する存在だ。一方で私たちは、ロボットを所有物と考え、人間に認めているような権利を持たないものとみなす傾向もある。

しかし、機械が自らの意思で考え、判断し、行動でき、危害を受けたり、自らの行為に責任を問われたりするのであれば、所有物として扱うのをやめ、権利を持つ人に近い存在として扱うべきではないだろうか?

ロボットが真の自己認識を獲得したらどうだろう。私たちと同等の権利や、法律の下で同じ保護、あるいは少なくともそれに近いものを与えられるべきだろうか?

こうした問題のいくつかは、欧州議会法務委員会で議論されている。昨年、同委員会は報告書案と動議を発表し、ロボットの製造、使用、自律性、社会への影響を規制する民法上の規則を求めた。

提案された法的解決策の中で、おそらく最も興味深いのは、最も高度なロボットに「電子的人格」という法的地位を設けるという提案だった。

人格に近づくロボット

報告書は、ロボットの自律能力や認知能力の向上によって、ロボットは単なる道具を超え、契約責任や不法行為責任など通常の責任ルールでは対処しきれなくなっていると認めた。

例えば、現行のEU指令は、ロボットによる損害の責任について、製造上の欠陥が原因で生じた予見可能な損害のみを対象としている。この場合、製造者が責任を負う。しかし、ロボットが予測不能な形で学習し、環境に適応できるようになると、損害につながる問題を製造者が予見するのは難しくなる。

報告書はまた、十分に高度なロボットを自然人、法人(企業など)、動物、あるいは物のどれとみなすべきかを問うている。既存の分類に押し込むのではなく、「電子的人格」という新たな分類がより適切だと提案している。

ただし、報告書は直ちに立法措置を講じるよう求めているわけではない。ロボットがより複雑になり、行動が高度化した場合、あるいはそうなった時点で、法律を改正することを提案している。そうなれば、ロボットの自律性に応じて「製作者」の責任を軽減し、その不足分を強制加入の「無過失」責任保険で補うことが勧告の一つとなる。

しかし、なぜ「電子的人格」という新たな分類を設ける必要があるのだろうか。そもそもコンピューターは、人間の知能に匹敵するまでには、まだ長い道のりがある。いつかそうなるとしても、だ。

しかし、ロボット、より正確にはロボットを制御するソフトウェアが、ますます複雑になっていることには異論がないだろう。自律型(あるいは「創発的」)機械は、ますます一般的になっている。自動運転車の法的責任や、ロボット外科医を訴えることができるのかについて、議論が続いている。

責任が製造者にある限り、これらは複雑な問題ではない。しかし、例えば自動運転車に製造者を容易に特定できないような場合、つまりオープンソースソフトウェアが使われている場合はどうだろう。世界中に何百万人もの「製作者」がいるとき、誰を訴えればよいのだろうか?

人工知能も、その名にふさわしい能力を発揮し始めている。アラン・チューリングは、現代コンピューティングの父と呼ばれ、あるテストを提案した。質問への回答によって人間を欺き、コンピューターを人間だと信じ込ませることができれば、そのコンピューターは「知的」だとみなされるというものだ。すでにこのテストに合格しそうな機械も現れている。

ほかにも目覚ましい成果がある。自然の音と聞き分けがつかない動画用のサウンドトラックを作るコンピューター、CAPTCHAを 突破できるロボット、人間の筆跡と見分けがつかない筆跡を作り出せるもの、そして最近、世界最高峰のポーカープレーヤーたちを破ったAIなどだ。

ロボットはやがて人間の認知能力に匹敵する可能性があり、ますます人間に似てきている。その中には、痛みを「感じる」能力も含まれる。

この進歩が続けば、自己認識を持つロボットが単なる空想の産物ではなくなる日も、そう遠くないかもしれない。

EUの報告書は、こうした問題を正式に検討した最初期の例の一つだが、他の国々も取り組みを進めている。北京大学のウェン・ユエシュアンは、こう記している。日本と韓国は、2030年までに人間とロボットが共生する社会になると見込んでいる。日本の経済産業省は、次世代ロボットのビジネスや安全に関する課題に対応するため、一連のロボットガイドラインを策定した。

電子的人格

もしロボットに何らかの法的地位を与えるとしたら、それはどのようなものだろうか。ロボットが人間のように振る舞うなら、法的客体ではなく法的主体として、あるいは少なくともその中間的な存在として扱うことが考えられる。法的主体には権利と義務があり、それによって法的な「人格」が認められる。法的主体は自然人である必要はない。企業は自然人ではないが、法的主体として認められている。一方、法的客体には権利や義務がないが、経済的価値を持つ場合はある。

無生物やソフトウェアプログラムに、その製作者とは独立した権利と義務を与えるのは奇妙に思えるかもしれない。しかし企業については、すでに架空の法的主体に広範な権利と義務が与えられている。

ロボットにも企業と同じような考え方を適用できるのではないだろうか。ロボット(またはソフトウェアプログラム)が十分に高度であるか、一定の要件を満たせば、企業と同様の権利を与えることができる。そうすれば、製作者とは独立して、金銭を稼ぎ、税金を払い、資産を所有し、訴えたり訴えられたりできる。その製作者も、企業の取締役と同じように、ロボットや、ロボットが関わる相手に対して権利や義務を持つことが考えられる。

ロボットは企業と違って物理的な身体を持つ場合があるため、法的客体としても部分的に扱う必要がある。「電子的人格」は、法的主体と法的客体の両方を組み合わせたものとなりうる。

欧州議会は今月、決議案について採決する。結果がどうであれ、ロボットと法律を改めて検討することは避けられず、法律、コンピューターサイエンス、保険に関する複雑な研究が必要となる。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。