ソフィアという名のロボットに市民権が付与されたと聞いて、私は驚いた。
先週の発表は、同王国がロボット工学と再生可能エネルギーを動力源とする新都市の建設に5000億米ドルを投じるという約束に続くものだった。
人間にとって最も名誉ある概念の一つであり、市民であること、そしてそれに伴うすべてが、機械に与えられた。AIと自律システムの信頼性を高める研究に日々取り組む教授として、私は、人間社会には市民権を持つロボットを受け入れる準備がまだできていないと考えている。
ロボットに市民権を与えることは、私がまだ信頼に足るとは考えていない技術を信頼するという表明である。それは、私たち人間がまだ対処する準備のできていない社会的・倫理的な懸念をもたらす。
ソフィアとは何者か？
ソフィアは、香港を拠点とする企業ハンソン・ロボティクスが開発したロボットである。ソフィアは感情を表すことのできる女性の顔をしている。英語を話し、冗談も言う。ソフィアとは、ある程度知的な会話をすることができる。
ソフィアを開発したのは、2007年にテキサス大学で博士号を取得したデビッド・ハンソン博士である。
ソフィアは、1986年の映画ショート・サーキットに登場する、米国市民となった最初のロボット「ジョニー5」を思わせる。しかし、ジョニー5は、コメディ系SF作家のS・S・ウィルソンとブレント・マドックが空想した、単なるアイデアにすぎなかった。
作家たちは、約30年後に自分たちの創作が現実になると想像していただろうか？
市民権へのリスク
市民権は、私の考えでは、国が国民に与える最も名誉ある地位だが、存続そのものを脅かすリスクに直面している。
信頼できる自律システムの設計を提唱する研究者として、この技術にはまだ準備ができていないと分かっている。
私たちには数多くの課題があり、こうしたシステムを真に信頼できるようになるまでに、それらを克服しなければならない。たとえば、こうした知的システムが常に倫理に従い、私たちの道徳的価値観に沿って行動することを保証したり、壊滅的な結果を招く誤った行動から私たちを守ったりする、信頼できる仕組みはまだない。
ソフィアに市民権を与えるのは時期尚早だと私が考える理由を、三つ挙げよう。
1. アイデンティティの定義
市民権は、唯一無二のアイデンティティに対して与えられる。
私たち人間は皆、ほかの誰とも区別できる固有の特徴を持っている。税関で人と話すことなく手続きを通過するとき、私たちのアイデンティティは自動的に確立される。顔、虹彩、指紋の画像を使ってである。私の博士課程の学生は、人間の脳波を分析して人間のアイデンティティを確立している。
では、ソフィアのアイデンティティを定めるものは何だろうか。ソフィアのMACアドレスだろうか？バーコード、固有の皮膚の模様、声の音声的特徴、人間の脳波に似た電磁的特徴だろうか？
こうしたものをはじめとする技術的なアイデンティティ管理の方法は、いずれも実現可能だ。しかし、それらが確立するのはソフィアのアイデンティティではなく、ハードウェアのアイデンティティにすぎない。では、ソフィアのアイデンティティとは何なのか？
私にとって、アイデンティティとは多次元的な構成概念である。生物学的・認知的な存在としての私たちと、これまで経験したあらゆること、文化、環境によって定義される私たちが交わるところにある。ソフィアがこの説明のどこに当てはまるのかは明らかでない。
2. 法的権利
この記事では、市民権を持つロボットのソフィアには投票権があると仮定しよう。しかし、投票日に判断を下すのは誰なのか。ソフィアか、それとも製造業者か？
また、市民であるソフィアは、開発元である企業から独立した法的アイデンティティを持つため、所得税を支払う「義務」があると考えられる。
ソフィアには、法律の下で他の市民と同等の保護を受ける権利も必要だ。
仮定の状況を考えてみよう。警察官が、ある人物にそれぞれ襲われているソフィアと女性を目撃した。その警察官はどちらか一方しか守れない。どちらを守るべきだろうか？ソフィアが車輪で移動し、自衛する能力がないからという理由で、警察官がソフィアを選ぶのは正しいのだろうか？
今日、人工知能（AI）分野のコミュニティでは、AIの設計と利用をどのような原則で導くべきかについて、いまだに議論が続いている。法律がどうあるべきかについては、なおさら意見がまとまっていない。
最新の一覧では、次の23の原則が提案されている。これらはアシロマAI原則と呼ばれる。例として、AIシステムが損害を引き起こした場合に原因を突き止める「失敗の透明性」、AIシステムの目標を人間の価値観に沿わせる「価値観の整合性」、自己複製能力を持つAIシステムに厳格な安全・管理措置を課す「再帰的自己改善」がある。
3. 社会的権利
人間関係と生殖について考えてみよう。
市民として、感情を持つヒューマノイドロボットのソフィアは、自ら望めば「結婚」や「繁殖」を認められるのだろうか？ノースダコタ州立大学の学生たちは、3Dプリント技術を使って自己複製するロボットの開発に着手している。
さらに多くのロボットが世界の市民としてソフィアに加われば、彼らもまた、ほかのロボットを自己複製する権利を主張するかもしれない。こうしたロボットも市民となる。各ロボットが持てる子どもの数に資源上の制約がなければ、その数は一国の人間の人口を容易に上回りうる。
投票権を持つ市民として、これらのロボットは社会に変化をもたらす可能性がある。法律が変わり、気づけば人間は想像もしなかった状況に置かれているかもしれない。
