SF作家のアイザック・アシモフがロボット工学三原則を考案したとき、念頭に置いていたのはアンドロイドだった。人間に似たロボットが召使いのように働き、害を及ぼさないようにするための一連のプログラミング規則を必要とする世界を思い描いていた。だが、倫理指針を初めて盛り込んだ作品が発表されてから75年の間に、技術は大きく進歩した。今では、ロボットの外見や、ロボットとの関わり方について、当時とは大きく異なる捉え方をしている。
高度に発展したロボット工学の分野では、自律型掃除機から軍用ドローン、工場の生産ライン全体に至るまで、実に幅広い装置が生み出されている。同時に、人工知能や機械学習は、インターネットで検索するときも、政府サービスの割り当てを受けるときも、日々の生活に影響を及ぼすソフトウェアの多くを支えるようになっている。こうした進展により、あらゆる種類のロボットが社会のほぼすべての場面に普及し、人間とロボットの相互作用が大幅に増える時代が急速に近づいている。
アシモフの法則は今も、ロボット開発の指針となるひな型として言及されている。韓国政府も、法則を反映したロボット倫理憲章を2007年に提案したほどだ。しかし、ロボット工学が大きく変化し、今後も発展し続けることを踏まえれば、21世紀の人工知能に合わせて、これらの規則をどう改定できるかを考える必要がある。
三原則
アシモフが提唱した法則は、ロボットとの関わりから人間を守るために考案された。次のとおりである。
ロボットは人間に危害を加えてはならず、何もしないことで人間に危害が及ぶのを許してはならない。ロボットは、人間から与えられた命令に従わなければならない。ただし、その命令が第一原則に反する場合はこの限りではない。ロボットは自らの存在を守らなければならない。ただし、その保護が第一原則または第二原則に反しない場合に限る。
前述のとおり、明らかな問題の一つは、今日のロボットがアシモフの作品に登場するロボットよりもはるかに多様で、ずっと単純なものもあることだ。そこで、ある複雑さの水準を下回るロボットには、規則を適用しなくてもよいのかを検討する必要がある。ロボット掃除機が人間に危害を加える能力を持つ、あるいは命令に従う能力を必要とするとは考えにくい。電源を入れる前にあらかじめ定められる、単一の作業を行うロボットだからだ。
一方、対極にあるのが、軍事戦闘環境向けに設計されるロボットだ。こうした装置は、偵察や爆弾処理、または物資の運搬を目的に設計されている。とりわけ、非常に危険な環境で人命へのリスクを減らすために開発されていることから、これらは依然としてアシモフの法則に沿っているように見える。
しかし、最終的な軍事目標は、戦場に投入できる武装ロボットの開発だと考えるのに、そう時間はかからない。この場合、人間に危害を加えないという第一原則は、非常に大きな問題となる。軍の役割は、兵士や民間人の命を救うことにある場合が多いが、そのために戦場で敵に危害を加えることも多い。したがって、法則を異なる視点や解釈から検討する必要があるかもしれない。
法則の曖昧さを受けて、作家たちは、アシモフを含め、法則がどのように誤解されたり、誤って適用されたりするかを探ってきた。問題の一つは、そもそもロボットとは何かを定義していないことだ。研究が技術の限界を押し広げるなか、より分子レベルの装置を研究するロボット工学の新たな分野が現れている。
たとえば、DNAとタンパク質で作られた「ロボット」は、遺伝子疾患を治療する手術に利用できる可能性がある。理論上、こうした装置はアシモフの法則に従うべきだろう。しかし、DNA信号を介して命令に従うには、処置対象の人間の身体に不可欠な一部として組み込まれる必要がある。そうなると、そのロボットが法則の適用対象となるほど独立しているのか、それとも適用対象外なのかを判断するのが難しくなる。また実際には、受け取った命令を実行した場合に人間に危害が及ぶかどうかを判断することは不可能だろう。
何を人間への危害とみなすのかという問題もある。たとえば、日本におけるロボットの赤ちゃんの開発を考えると、問題になりうる。人間がこうしたロボットの一体を養子に迎えた場合、感情面や心理面で危害を及ぼす可能性があるとも言える。しかし、その危害はロボットの直接的な行動によるものではないかもしれず、人間とロボットの交流が終わってから何年もたって初めて明らかになる場合もある。この問題は、機械学習を使って感情を呼び起こす音楽を作るといった、より単純なAIにも当てはまる可能性がある。
実務上の問題
法則をめぐるもう一つの大きな問題は、ロボットが実際に法則に従うには、AIが大幅に進歩する必要があることだ。AI研究の目標は、人間のように合理的に考え、行動する機械の開発だと説明されることがある。これまでのところ、AI分野では人間の行動を模倣する研究は十分に進んでおらず、合理的な行動の開発も、範囲が限られ明確に定義された領域に焦点を当ててきた。
こうした点を踏まえると、ロボットが活動できるのはごく限られた範囲にとどまり、法則を合理的に適用できる場面も大きく制限されるだろう。現行技術では、それさえ不可能かもしれない。法則に基づいて推論し、判断を下せるシステムには、相当な計算能力が必要になるからだ。
これらすべての問題を考えると、アシモフの法則は、今日ロボット規範を作ろうとする人にとって、基本原則以上のものにはなりにくい。そこに続くさらに包括的な一連の法則が必要だ。それでも、AIが大きく進歩しない限り、そのような法則を実装することは不可能なままだろう。まして、人間がロボットに恋をし始めた場合に生じうる苦痛について考えるのは、その先の話だ。
