ロボットとの対話で直面するリスクは、人と人との関係におけるリスクとは異なります。これは省察を促す必要があるものです。
人間とロボットの対話の受容度は文化によって大きく異なるため、社会はロボットに関する概念の明確な定義を必要としています。
また、社会的ロボットや潜在的なAIエージェントが「道徳的行為主体性」を持つようになることに伴う倫理とリスクについても考える必要があります。
私たちの多くは、家族や友人と過ごした時間の記憶を大切にしており、その記憶が自分の人格や、世界が突きつけてくる困難に立ち向かう力を形作っています。私たちがこうした関係を大切にするのは、まさに他者を自分の私的な空間や親密な思いに受け入れるというリスクを引き受けたからです。
今日、私たちは、ロボットとの対話で直面するリスクが、人と人との関係におけるリスクとどう異なるのかを考えるよう求められています。ロボットとの対話は私たちの記憶をどのように変えうるでしょうか。また具体的には、私たちがロボットに与える役割は、個人の成長や、私たちが世界と関わっていく方法にどのように影響しうるでしょうか。
本稿では、この二種類の対話の違いを踏まえ、人間関係において私たちが引き受けるリスクが、人間とロボットの対話においてどのように変化するのかについて、いくつかの側面を検討します。これらの違いには、たとえば欺瞞の新たな様相や、対話の非相互性などが含まれます。
本稿の目的は、これらの違いを詳細に列挙することではなく、それらが提起する主要なリスクと懸念のいくつかを明らかにすることにあります。
ロボットの明確な定義の必要性
私が最初に提示する重要な指摘は、私たちの考察は中核となる概念の明確な定義に基づくべきだということです。これが必要な理由はいくつかありますが、その中でも特に、人間とロボットの対話の受容度が文化によって大きく異なること、そして最も重要な点として、そうした対話が人間であることの意味についての私たちの理解そのものに挑戦するためです。
ここで「人間とロボットの対話」とは、産業用ロボットではなく、社会的ロボットの文脈で解釈されるものです。社会的ロボットとは、自律的（または半自律的）に動作し、人間の行動やコミュニケーションを模倣することで人間と相互作用し、意思疎通を行う物理的な機械として理解されています。
社会的ロボットは、教育、育児、医療、そして話し相手としての役割など、さまざまな場面で活用されえます。その際、こうした対話には常に何らかの形の対人コミュニケーションが含まれるという前提があります。
社会的ロボットの中核的な一群は、いわゆるヒューマノイドロボットであり、人間のように見えるよう設計されたロボットです。これは倫理の問題と、技術に対する信頼の問題の両方を提起します。精神保健上の課題を抱える患者のための介護ロボットや、精神保健上の課題を抱える患者のための介護ロボットおよびコンパニオン・ロボット（特に性的なもの）のような利用事例では、人権侵害の現実的なリスクがあります。
さらに、ロボットの擬人化、すなわち人間が共感を抱くようなロボットを意図的に設計することには、「身体的に魅力的な」ロボットが、その外見だけを理由に、社会的な文脈において目標を達成する可能性が高くなりうる一方、その利用や相互作用には潜在的な操作的含意があるという懸念が生じます。
ロボットが道徳的判断を下すとき
第二の重要な指摘は、社会的ロボットと、「道徳的行為主体性」を持つ可能性のあるAIエージェントとの融合に伴うリスクに注意を払う必要があるということです。
機械倫理における議論は、AIシステムが道徳的に繊細な文脈で意思決定を行うことができるべきかどうかだけでなく、高齢者向け介護ロボットの場合のように、直接的な行動につながりうる価値判断を生成することを認めるべきかどうかにも及んでいます。
こうした議論では、倫理と人権の観点からさまざまな懸念が生じます。それらは、人間の尊厳の尊重と促進に対するリスクから、透明性と説明責任に関する懸念にまで及びます。
関連する一連の問題として、社会的ロボットに何らかの形の個人的なアイデンティティを付与することに関する問題があります。特にコンパニオン・ロボットの文脈では顕著です。この文脈における一つの懸念は、プライバシーの保護が不十分になるリスクに関わるものです。
機械学習能力を備えた社会的ロボットは、その「人間」との相互作用から生成されたデータを、第三者との共有を可能にする形で保存すべきでしょうか。それとも、ロボットが「アイデンティティ」を形成する形で保存すべきでしょうか。こうした懸念は、ロボティクスがより主体的なAIと融合するにつれて、おそらく高まっていくでしょう。
人間であることの意味
第三の重要な指摘は、人間であることの意味そのものに関するものです。
ロボットとの社会的な相互作用は、人間が自己をどのように定義するかに影響を与えるでしょうか。それは良いことでしょうか、悪いことでしょうか。それは最終的に、「穏やかな特異点」、すなわち人間の生活の質と生産性が、AIを通じて可能になる科学の進歩によって大幅に向上するという考え方に寄与するのでしょうか。OpenAIのCEOであるサム・アルトマンが最近述べたのは、まさにこの考え方でしたサム・アルトマンが最近述べた内容？
関連する一連の問いは、人間であることについて私たちが現在理解していることを、そもそも守るべきかどうか、そしてなぜ守るべきか、あるいはなぜ守るべきでないのか、という点に集中しています。これらの問いは、何世紀も前から存在する深遠な哲学的問題に関わるものであり、今ほど取り組むことが切実になった時はありません。
人間が繁栄するために必要な省察
ロボティクスやAIといった新興技術とともに人間が繁栄するためには、人と人との対話のリスクが、人間とロボットの対話のリスクとどう異なるのかを省察することが不可欠です。
現在の技術的・経済的な制約のため、社会的ロボットの世界的な普及はまだ先のことかもしれませんが、もはや私たちは、新興技術への責任ある関与とは、単に政策立案が技術の進歩に追いつくようにすることだけではないという教訓を学んでいるはずです。それはまた、技術に対して、ボトムアップで、堅牢かつ先を見据えた関与を確保することでもあります。そしてこれは、技術の規制やガバナンスにも自動的に反映されるでしょう。
人間とロボットの対話がもたらすリスクを理解し、それに真剣に取り組むことは、そのようなボトムアップの関与に向けた第一歩です。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか？
AI卓越性センターは、各分野のリーダーをつなぎ、急速に進化する人工知能と、それが経済や社会に与える影響を理解する支援を行っています。AIの導入に伴う機会、リスク、トレードオフについて、情報に基づいた対話を支援しています。
信頼できる場や共同の取り組みを通じて、センターはパートナーが共通の理解を深め、AIのイノベーションと利用に対する責任ある取り組みに向けて協働できるよう支援しています。
