私たちは、社会の広大で未知なるデジタルの未来にとって、重大な転換点に立っている。強力な技術である人工知能（AI）は、人間の脳を大まかに模したニューラルネットワークの進歩を主な背景として、灰の中からよみがえった。AIは、膨大な非構造化データセットからパターンを見つけ、データが増えるほど性能を高め、物体をすばやく正確に識別し、複雑で政治的な人間の介入を最小限に抑えながら、より多く、より良い推奨や意思決定を行える。こうした状況は、今後数十年にわたり、人間がどの程度選択し、包摂されるのかという重大な問いを投げかける。あらゆる権力と所得の階層に属する人々は、どのように関与し、代表されるのだろうか。機械による実力主義という、この新たな世界を私たちはどう統治するのだろうか。
機械による実力主義
800年前にさかのぼろう。1215年1月、フランスから帰国したばかりのイングランド王ジョンは、不人気な「vis et voluntas」（「力と意志」）による統治を終わらせようとする怒れる諸侯に直面した。彼らをなだめるため、王とカンタベリー大司教は反抗的な諸侯25人を集め、王の恣意的な権力を抑制する権利の体系を定める「自由の憲章」の交渉を行った。6月までに、王室の意思決定における透明性と代表性の向上、税や封建的賦課の制限、さらには農奴の権利の一部を盛り込んだ合意に至った。有名な「マグナ・カルタ」は、特定の利害を反映した条項にあふれる不完全な文書だったが、今日では、権力とその支配下にある人々との公正な関係に向けた人類の歩みにおける重大な転換点と見なされることが多い。やがて啓蒙主義、ルネサンス、民主主義への道を開いた。
権力の均衡
問われているのは、新たな支配者である知的機械の増大し続ける力と、人間の力との均衡だ。機械がますます多くの価値を生み出し、設計や意思決定に対する人間の関与が減るなか、日常の製品もより多く生産する世界が訪れようとしている。既存の仕事や暮らしのパターンは、永遠に変わりつつある。私たちの創造物は、周回数を数えきれないほどの速さで、私たちをぐるぐると追い越していく。
機械による意思決定
これは雇用や経済の問題にとどまらない。生活のあらゆる領域で、機械は私たちが意識的に関与しないまま、私たちに代わって意思決定を始めている。機械は、私たち自身や世界中の「似ている」とされる人々の過去の行動パターンを認識する。私たちが過去の行動で示した傾向や、同じ情報圏にいる他者の行動に基づいて、意見、見通し、行動を形づくるニュースが届く。車を運転するとき、私たちは行動パターンを自動車メーカーや保険会社と共有し、ナビゲーションや自動運転技術の進歩を活用する。その見返りに、利便性が高まり、より安全な移動が可能になる。より充実した、個人に合わせたエンターテインメントやビデオゲームも楽しむ。その提供者は、価格への敏感さを見極めるため、私たちの社会経済的属性、移動パターン、認知や視覚の好みを把握している。
私たちはますます多くの利便性を受け入れるなかで、機械が「私たちを正しく理解してくれる」と信頼することを選ぶ。機械は私たちのことを知るようになる。おそらく、少なくとも厳密に合理的な観点から見れば、私たち自身が自分を知るよりも、率直に理解するだろう。しかし機械は、私たちがこうありたいと主張する姿と、実際の姿との間にある認知上のずれを容易には考慮しない。現実の行動から得られる実データに依存する機械は、私たちが望む姿や、なりたいと願う姿ではなく、これまでの私たちの姿に縛りつける。
個人の選択
機械は個人の選択をなくしてしまうのだろうか。人生の思いがけない出来事を排除するのだろうか。私たちに似た人々と出会うよう人生を計画し、異なる、あるいはより良い人間へと成長するきっかけとなる出会いや摩擦を奪うのだろうか。ここには大きな可能性もある。たとえば、移動手段ごとの炭素排出量を含めた、より客観的な分析に基づいて個人の判断を下すことや、それを私たちの予定や社会的・感情的ニーズと統合すること、パートナー選びの際に自分の本当の才能について率直な助言を得ること、多様な生徒で構成される集団に向けて、より効果的な指導計画を設計することなどだ。
分極化
しかし、同じ考えを持つ人々の情報圏に私たちをさらに押し込み、信念や価値観を強化する一方で、それを偶然に検証し、擁護し、考え直さざるを得なくなる機会を失わせ、社会を分極化させる可能性もあるのではないか。AIは「デジタル社会工学」に利用され、並行する小規模社会を生み出すかもしれない。選挙の何年も前から、政治活動家がAIを使い、特定の属性を持つ有権者を特定の選挙区へ誘導するデジタルなゲリマンダリングや、特定の社会政治的、経済的、心理測定的属性を持つ人々との間でしか貸し借りしないAirbnbの小規模コミュニティを想像してほしい。企業が、より狙いを定めた採用を行えるようになることも考えてみよう。採用の成功率が上がる一方で、従業員集団がより狭く、多様性に乏しくなり、戦略上の選択肢が損なわれる可能性がある。
誰が判断するのか
機械は、私たちが表明した価値観、とりわけ商取引に暗黙に表れる価値観に基づいて私たちを評価する一方、私たちが抑え込んできた、あるいは人生のある時点で眠っている、ほかの深く根付いた価値観を見落とす。AIは、新たに形成された信念や、容易にコード化できる領域の外で起きた価値観の変化を考慮できないかもしれない。その結果、たとえば、過去のデータに基づいて私たちの安全に関する判断を下し、その場では受け入れがたいと感じるような形で、他者の幸福を損なうこともありうる。私たちは複雑な存在であり、その場の状況に応じて日常的に価値観の間で取捨選択を行う。そうした状況には、AIが処理できるようコード化された前例がほとんど、あるいはまったくない場合もある。機械は、自由意志を持ち、自分を作り変える私たちの権利を尊重するのだろうか。
差別と偏見
同様に、機械はパターン認識と幅広い統計的平均に基づくアルゴリズムによって、健康状態や社会的地位が低い人々を差別する可能性がある。Uberはすでに、乗客がどの地域から乗車する可能性が高いかを特定するためにアルゴリズムが郵便番号を利用したことで、人種差別をめぐる激しい批判に直面した。AIは、最も適応力の高い人、最も好まれる人、あるいは最も生産性の高い人の生存を優先するのだろうか。そうした判断を透明性をもって行うのだろうか。私たちにはどのような救済手段があるのだろうか。
さらに、プログラマー個人の経歴、先入観、見えにくい偏見、あるいは雇用主の動機やインセンティブが、意図せずアルゴリズムの設計やデータセットの選定に影響するかもしれない。AIが常に客観的に機能すると考えてよいのだろうか。企業は、自社の顧客、パートナー、経営幹部、株主を優遇するAIを開発するのだろうか。たとえば、テクノロジー企業、病院運営企業、保険会社が共同開発した医療AIは、患者の最善の利益のために行動するのか、それとも特定の金銭的利益を優先するのだろうか。
瓶から出た精霊を再び戻すことはできないし、そうすべきでもない。その恩恵は変革をもたらし、人間の成長と発展に新たな地平を切り開くだろう。私たちは、この千年紀に類を見ない進化の爆発の入り口に立っている。爆発や革命は混乱を招き、不透明で、倫理上の落とし穴に満ちている。
新たな権利憲章
そこで私たちは、グローバルAI経済のためのマグナ・カルタを提案する。これは包摂性を備え、複数の利害関係者が共同で策定する権利憲章であり、人工知能の継続的な発展を導き、人間と機械の共存の未来、そしてより包摂的な人間の成長の継続に向けた基盤を築くものだ。経済、社会、政治のいずれの文脈においても、社会として私たちは、AIと人間の生活が交わる領域における包摂性と公平性のため、権利、責任、説明責任に関する指針を定め始めなければならない。それがなければ、AIがもたらしうる素晴らしい機会を生かすのに十分な信頼を築くことはできない。
