私の母はエジプトのカイロに住んでおり、5,000マイル離れています。母が電話をかけてくると、私の「もしもし」や「元気だよ」という話し方だけで、何かおかしいとすぐに分かります。大切な人との多くの関係と同じように、母と私の間にも、母が一言二言で私の気持ちを理解できるほどの信頼が築かれています。
しかし残念ながら、私は、今日の世界の多くの人々と同様に、身近な人と過ごす時間と同じか（それ以上でなくとも）、それに匹敵するほどの時間をテクノロジーとのやり取りに費やしています。しかし、母や友人と話すのとは異なり、機器とのやり取りは完全に事務的なものです。私の携帯電話は、言外の意味を読み取り、私の身に実際に何が起きているのかを理解することはできません。
この問題は、テクノロジーとのやり取りで人工知能（AI）の利用が増えるにつれ、より顕著になりつつあります。AIは、私たちと並んで働くことから、車の運転、医療支援など、社会において新たな役割を担うようになっており、私たちはテクノロジーとの新しい形のパートナーシップを築きつつあります。そして、そのパートナーシップには新たな社会契約が伴います。それは、相互の信頼、共感、倫理に基づくものです。
AIは私たちを信頼できるのか？
すべては相互の信頼から始まります。信頼できず、こちらを信頼もしてくれない相手と、効果的に働くことも共に生きることもできないのは当然です。AIも例外ではありません。
人間とAIの間で相互の信頼が重要である理由の例は、広範囲に及びます。例えば、準自動運転車を考えてみてください。これらの車はまだ開発段階にあるため、車のAIが安全に走行を続けられなくなった場合に、人間のドライバーが運転を引き継ぐ準備をしておく必要があります。
しかし、AIは、その人が運転を引き継ぐ準備ができていると、どのように信頼できるのでしょうか？運転すべき人が注意を怠らず集中しており、眠気がなく、またはその他の理由で注意がそれていないと、どのように確認できるのでしょうか？AIシステムは、人を信頼する前に、私たちの感情や認知の状態を真に理解できる必要があります。この場合は、注意散漫の兆候や、判断力が損なわれている可能性のある危険な状態を見分けることです。
つまり問題は、機械との間で、信頼という極めて個人的な感情をどう育み、そしてそれをどう相互のものにできるか、ということになります。
共感できるパートナーとしてのAI
ハーバード・ビジネス・スクールのテクノロジー教授フランシス・フライによると、共感は人と人との間で信頼を築く上で最も重要な要素の一つです。したがって、共感は、AIと人間の間に理解と信頼を生み出すための鍵でもあるのかもしれません。
私たちを真に「理解」するAIを構築する鍵は、認知だけに焦点を当てることではなく、感情的知性を備えたアルゴリズムを開発することです。人と人とのパートナーシップと同様に、AIに誰かがどのように感じているかを理解させる能力を与えることこそが、準自動運転車が運転者にハンドルを任せられる状態かどうかを判断する唯一の方法であり、また協働ロボットが、人間の同僚がその日の仕事に意欲を持って臨めているかどうかを理解する唯一の方法です。
これは、一部の人には個人的すぎる、あるいは不自然に感じられるかもしれません。しかし私にとっては、AIの研究開発を進めること自体が、私たちの仕事や人類にとっての脅威となるわけではありません。本当の問いは、人々がそのテクノロジーで何をするのか、そして私たちがAIに対してどのような選択をするかが、世界をどのように変えるのか、ということです。
AIの倫理的な開発と導入の概要
人間と関わるよう設計されたAIシステムは、膨大なデータを持ち、関わる人々について多くのことを知ることになります。これは懸念を生みます。AIが私たちの生活を向上させる可能性は大いにある一方で、不平等を助長したり、害をもたらしたりする可能性も同じくらい大きいのです。
この新しい社会契約を構築するにあたり、AIの倫理的な開発と導入のための基準を設定する必要があります。これは、AIが多様なチームによって、また多様なデータを用いて構築されるようにし、テクノロジーが社会に内在する偏見を再生産しないようにすることを意味します。また、人々がAIと関わる際のオプトインや同意の必要性を検討し、データプライバシーを優先することも意味します。
このことを踏まえ、テクノロジー、学術界などの分野における最も優れた頭脳の持ち主たちは、人々がAIを倫理的かつ善なる目的で利用することを確実にする基準を設定するために、すでに連携を進めています。その取り組みには、MITとハーバード大学の「AIの倫理とガバナンス・イニシアチブ」や、「Partnership on AI」などがあります。後者は、マイクロソフト、アマゾン、グーグル、フェイスブック、アップルといった大手テクノロジー企業や、Affectivaのような新興企業による協働体です。これは、世界経済フォーラムの若手グローバル・リーダーとしての私の責務の一部でもあります。フォーラムは、あらゆる分野や背景から多様な視点を持つリーダーたちとAIの影響について議論する機会を私たちに与えてくれます。
変化するAIとの関係を進めていく中で、解明すべきことはまだ数多くあります。しかし、会話の枠組みを今すぐこのように設定し始める必要があります。つまり、パートナーシップとして、信頼、共感、理解に基づくものとして捉えることです。AIについて恐れを前提に議論し続け、AIが私たちと真に関係を築けないまま技術開発を進めるのではなく、そうすべきなのです。
人間とAIの間の新たな社会契約、そしてそれに関連するあらゆる影響については、Affectivaの第3回年次Emotion AI Summit（10月15日、ボストン）で探求していきます。参加登録はこちらから行えます。ぜひご参加いただき、議論を前進させるためにご協力ください。皆さまのご意見をお聞かせいただければ幸いです。
