人類の進歩は、自然な能力を補強する道具、機械、テクノロジーの開発によって推し進められてきた。しかし、共感を司る感情の脳――私たちの共感能力をつかさどる部分――は、これまでテクノロジーからほとんど助けを得てこられなかった。
人工知能（AI）には、その状況を変える力がある。AIと人間の間に信頼関係を築くよう最適化された人間中心のAIのやり取りを設計することは、現代において人類と社会の発展にとって最大の機会となる。
社会は合理的な判断と明文化されたルールに基づいて動いている、というのが一般的な考え方だ。しかし研究によれば、個人、組織、社会としての私たちの行動の大半は、潜在意識による感情的な判断によって支配されている。人間中心のAI設計の可能性は、潜在意識で行われる全判断の95％を改善し、人間の共感を補強することにある。そのプロセスを通じて、先を見通す力を誰もが持つ共通の超能力にすることができる。
この進歩の次の段階へ至る道は、人間の人間性を置き換えるのではなく、高めることを優先する人間とAIのやり取りを設計することから始まる。感情を欠いた自動機械のような未来は、何千年にもわたって人類が生き延び、繁栄することを可能にしてきたものを弱めてしまうだろう。AIがもたらす最大の恩恵は、人間とAIの「相性の良さ（chemistry-matching）」によって実現する。そしてAIをより人間らしくすることを教える過程で、私たち自身がより人間らしくなる方法を学ぶ機会も見いだせるだろう。
共感は、人類が生き延びるための切り札であり、次の進化への手がかりである
オーストリアの医師で心理療法士のアルフレッド・アドラーは、次のように述べた。「共感とは、他者の目で見て、他者の耳で聞き、他者の心で感じることである。」彼がこれを1928年に書いたとき、コンピューターのことを考えていなかったのは確かだ。実際、共感は、教えることも、道具やテクノロジーによって高めることも難しい資質の一つであった。
つい最近まで、テクノロジーは主に、私たちの脳の合理的な側面と身体的な能力を補強してきた。てこやペダルといった原始的なインターフェースは、ボタン、キーボード、マウス、画面へと移り変わってきた。
これまで一貫して目指されてきたのは、人間の機械的・計算的な能力を高めることであった。
しかし人間の脳の合理的な側面は、驚くべきものではあるものの、実際には私たちの行動のごく一部しか制御していない。生存に欠かせない潜在意識の側面が、私たちの生活の多くの側面を支配している。闘争か逃走かといった本能を除けば、この側面は共感と感情を内包しており、それらが私たちの日々の判断の大部分を動かしている。そして脳のこの部分は、ツールやテクノロジーからほとんど助けを得てこられなかった。
過去5000年にわたり、ますます高度化する機械は、人間の自然な身体能力を拡張してきた。その代表例が、人間の足では到底なし得ない、数百倍もの速さと距離で私たちを運ぶ自動車や飛行機である。さらに最近では、機械が認知能力を補うよう考案され、脳の短期的な記憶、検索、計算の能力を拡張している。（私たちは、モバイル機器上で、6000万ページを超える文書に相当する情報をリアルタイムで保存・検索できる。）
AIが将来もたらすもの――そしてその影響に対する期待と不安の双方で、しばしば見過ごされがちなもの――は、合理的な思考に対する単なる補強にとどまらず、感情的な思考の強化である。人間のような対話を学習し、再現することで、明日の機械ははるかに豊かな道具となり得る。適切に設計されれば、AIは、これまでのテクノロジーが私たちの身体能力や計算能力を向上させてきたのと同じ加速度的な規模で、人間の共感を高められるかもしれない。他者を理解し、他者と関わる私たちの能力が100倍に高まったとき、私たちはどのような存在になれるのだろうか。無意識の偏見を「リバースエンジニアリング」できれば、どのような社会を築けるだろうか。互いの状況理解を高め、それによって実際に「常識」を真の常識にすることができるのではないか。
これを空想的だと感じる人もいるかもしれない。しかし、月面を歩くことや、世界中の情報を摩擦のない通信ネットワークで共有することも、かつてはそうだった。大規模に人間の変化をもたらすAIの可能性は、ホモ・サピエンスが進化して以来、人類にとって最も重要な一歩となると言っても過言ではないだろう。
共感の強化は本当に可能なのだろうか。実のところ、すでに取り組みは進んでおり、その際に脳へ電極を接続する必要もない。この旅の第一歩は、人間中心設計という視点からAIに取り組むことである。すなわち、テクノロジーの目的を定義し、それを深く人間的な文脈の中に位置づけることである。信頼関係を基盤とした人間と機械のやり取りを設計し、私たちの脳が自然な感覚の中ですでに示している潜在意識のインターフェースを理解し、私たちが周囲の世界を解釈する仕組みを支配する、自然なアプリケーション・プログラミング・インターフェース（API）を活用することである。
こうして未来への旅は、自分自身を理解することから始まる。すなわち、人間について既に存在する社会科学を検証することである。人間に存在する多くの記録された偏見は、「機能」として捉えられなければならない。それらを模倣するようプログラムするか、打ち消すように設計することで、私たちの集合的な進歩を高める、脳に自然な形のインターフェースを構築できるのである。
私たちは合理的な判断をしているのか、それとも感情的な判断をしているのか。
なぜ人間とAIのやり取りは、潜在意識の脳に合わせて「調整」されるべきなのか。なぜそこに、これほど大きな強化の可能性があるのか。答えは驚くほど単純である。人は合理的に振る舞うよりも、感情的に振る舞い、行動することがはるかに多いからだ。実際に私たちが判断し行動することの大半は、合理的な側面が、その判断や行動について何を語るかにかかわらず、脳の潜在意識の側面にさらに多く依存している。
多くの証拠がある。その一例として、私たちの購買判断は価格やブランドの合理的な比較に基づいていると考えたくなるが、ハーバード・ビジネス・スクール名誉教授のジェラルド・ザルトマンは、次のことを明らかにしている。そうした判断の95％は、潜在意識の中で行われている。もう一つの例として、「感情的知性」が組織から成果を引き出すうえで重要なリーダーシップの資質であることは、一般的に広く受け入れられている。潜在意識の脳にある深い「回路」は、採用から投資に至るまでの判断に影響を与えている。
感情の脳を「ハッキング」するための神経科学に基づく手がかりは、1世紀以上前に語られ始め、過去20年間で大きく発展してきた。例えば研究によれば、人は正しいことよりも簡単なことを選ぶ傾向がある（これは「最小努力の原則」と呼ばれる）。
要するに、私たちは選択が容易であるという理由で、最適とは言えない判断を下すことが多い。したがって、人々がより良い判断を自ら行えるよう支援する一つの簡単な方法は、正しい選択肢をより選びやすいものにすることである。
選択アーキテクチャの単純な形式として、オプトインとオプトアウトを見てみよう。前者は判断を下すために行動を求めるのに対し、後者はすでに判断が想定されており、それを覆すことができる。どちらの場合も、選択肢と情報の内容は同じである。しかし、私たちの行動はこの二つに対して大きく異なる。米国の401(k)加入者が加入を明示的に判断するよう求められた場合、年収最大
3万ドルの人のうち、退職金計画を優先課題として選んだのは18％にとどまった。一方、自動的に加入させられ、オプトアウトする選択肢が与えられた場合には、88％が加入を続けた。4 この「オプトアウト」型の選択アーキテクチャがもたらした純効果は個人貯蓄の300億ドルの増加を生み出したことである。
これらの概念は行動経済学に詳しい人々にとっては目新しいものではないかもしれない。しかし、私たちの潜在意識の脳が持つ力を浮き彫りにしている。まさに相互作用の設計（401(k)の事例では選択のパラダイム）が、大きく異なる結果を生み出しているのである。AIについても、私たちはアルゴリズムの力、すなわち合理的な「事実」に執着しがちである。しかし、人間中心設計の重要性は、いくら強調しても足りない。人間とテクノロジーの間の業務プロセスを豊かにし強化するためには、すなわち、AIアルゴリズムの可能性を、操作的な搾取ではなく前向きな影響のために解き放ち、意図しない結果から守るためには、人間中心設計のやり取りに焦点を当てる必要がある。
人間と機械のやり取りの達人から学ぶ
テクノロジーと効果的に連携して、合理的にも感情的にも自分自身を高めようとするのであれば、AIと人間の間の信頼を促進し、育むようなやり取りを設計しなければならない。
これまでで最も強烈で成功した人間とテクノロジーの関係は、科学と同じくらい芸術を通じて築かれてきた。ピニンファリーナがフェラーリと、デヴィッド・ブラウン卿がアストン・マーティンと、そしてジョニー・アイヴ卿がアップルと手がけた機械は、人間の感情を捉えてきた。これらの偉大な名匠たちは、テクノロジーを私たちの心の感情的な側面と結びつけることが、機械の目的における合理的な機能と同じくらい重要であることを理解していた。スティーブ・ジョブズは、このコンピューターが動かされることを想定していなかったにもかかわらず、半透明のシェルを持つiMac G3に取っ手を付けることを選び、そのためにコストが60ドル増加したことで知られている。「人々はテクノロジーやコンピューターを怖がっていました」とアイヴは後に説明している。「このコンピューターに取っ手があれば、関係が築けるのです。親しみやすく、直感的で、触れてもいいのだと感じさせてくれるのです。」
では、これらの設計上の教訓を、AIと人間のやり取りにどのように応用すればよいのだろうか。これらの新しいテクノロジーに対する信頼は、どのように築けばよいのだろうか。人間は、他者の意図が、自分の期待と一致し、真正で、一貫性があり、予測可能で、同調していると認識できたとき、その相手を信頼する。AIシステムは、理解し、推論し、学習し、私たちと対話するための基礎となる能力をすべて備えており、したがって人間との間でそのような関係を築き、維持することが可能である。
マーク・ナップはテキサス大学の教授で、人間関係の開始、形成、維持、そして悪化の各段階を10の異なるステージとして示す関係性モデルに取り組んできた。IBMデザイン・プログラム事務所のアダム・カットラーは、このモデルを、人間とAIの間の信頼を醸成するよう最適化された人間中心のAIシステムの設計原則へと翻訳する取り組みを進めてきた。これは実質的に、私たちの感情の脳に働きかけ、信頼の回路を活性化させるものである。彼の研究については、こちらをご覧になることをお勧めします。
最大の一歩か、最後の一歩か
AIを開発する際には、大きな注意と責任を持って取り組まなければならず、倫理的なAIは世界的な優先課題とならなければならない。そうすれば、社会を高めるためにAIを適切に導き、そのプロセスを通じて、私たちが直面する最も差し迫った課題の多くを解決できると私は楽観している。人工知能に投資する一方で、最も多様で包摂的な形の「人間の知能」により一層投資することを忘れてはならない。
ある意味で、AIを人間らしくするための努力を重ねるほど、私たち自身がより人間らしくなる方法を学ぶことになり、それは投資する価値のある目的である。
