歴史家のユヴァル・ノア・ハラリは、ダボス2020で、今世紀には人類が三つの存亡に関わる脅威に直面すると警告した。
技術は世界を、豊かなエリート層と搾取される「データ植民地」に分断するおそれがあると、彼は説明した。
「もしあなたがワールドカップが好きなら、あなたはすでにグローバリストです」と彼は述べ、課題に取り組むためのより良い協力の必要性を訴えた。
21世紀の第3の10年に入るにあたり、人類は非常に多くの問題や疑問に直面しており、どこに焦点を当てればよいのか判断することは本当に難しい。そこで、これから20分間を使って、私たちが直面するさまざまな問題に焦点を絞る手助けをしたい。三つの問題が、私たち種にとって存亡に関わる課題となっている。
これら三つの存亡に関わる課題とは、核戦争、生態系の崩壊、そして技術による破壊である。私たちはこれらに焦点を当てるべきだ。
核戦争と生態系の崩壊は、すでになじみ深い脅威であるため、ここでは技術による破壊がもたらす、あまり知られていない脅威について少し時間をかけて説明したい。
ダボスでは、技術がもたらす大きな約束について多くを耳にするが、それらの約束が本物であることは確かだ。しかし技術はまた、世界的な「無用な階級」の出現からデータ植民地主義やデジタル独裁の台頭に至るまで、さまざまな形で人間社会や人間の生きる意味そのものを破壊しかねない。
まず、社会的および経済的なレベルで激変に直面するかもしれない。
自動化はまもなく何百万、何千万もの仕事を消し去るだろう。新しい仕事が確かに生まれるとしても、人々が必要な新しいスキルを十分な速さで身につけられるかは不透明だ。たとえば、あなたが50歳のトラック運転手で、自動運転車に仕事を奪われたとしよう。今や、ソフトウェアの設計やエンジニアへのヨガ指導といった新しい仕事がある。しかし、50歳のトラック運転手はどうやってソフトウェアエンジニアやヨガ講師へと自分を作り直せるのだろうか。しかも人々は、それを一度きりでなく、人生を通じて何度も繰り返さなければならないだろう。自動化の革命は、労働市場がその後新たな均衡に落ち着く、単一の分水嶺となる出来事ではないからだ。むしろそれは、次第に大きくなる混乱の連鎖となるだろう。AIはまだその潜在能力の全体にはほど遠いからである。
古い仕事は消え、新しい仕事が生まれるが、やがて新しい仕事も急速に変化し、消えていく。過去において人類は搾取に対して闘わなければならなかったが、21世紀における本当に大きな闘いは、無用の存在になることへの闘いとなるだろう。そして、搾取されるよりも無用になることの方がはるかに悪いのだ。
無用になることへの闘いに敗れた人々は、新たな「無用な階級」を構成することになるだろう。つまり、友人や家族の視点からではなく、経済および政治システムの視点から無用とされる人々である。そしてこの無用な階級は、ますます力を増すエリート層との間に、常に広がり続ける溝によって隔てられるだろう。
AI革命は、階級間だけでなく国家間においても、前例のない不平等を生み出すかもしれない。
19世紀には、英国や日本のようないくつかの国々が最初に工業化し、その後、世界の大部分を征服し搾取した。私たちが注意を怠れば、21世紀にAIによって同じことが起こるだろう。
私たちはすでにAIの軍拡競争の只中にあり、中国と米国がそのレースをリードし、ほとんどの国々ははるか後方に取り残されている。すべての人類の間でAIの利益と権力を分配するための行動を取らない限り、AIは少数のハイテク拠点に莫大な富をもたらす一方で、他の国々は破産するか、搾取されるデータ植民地になってしまうだろう。
ここで話題にしているのは、ロボットが人間に反旗を翻すというSFのシナリオではない。私たちが話しているのは、はるかに原始的なAIであり、それでもなお世界の均衡を乱すには十分なのだ。
カリフォルニアでの繊維製品や自動車の生産が、メキシコでの生産よりも安くなったら、発展途上経済はどうなるだろうか。さらに、20年後にサンフランシスコや北京の誰かが、あなたの国のすべての政治家、すべての裁判官、すべてのジャーナリストの医療や個人的な経歴、そして性的な逸脱、精神的な弱点、汚職に関わる取引をすべて把握したとき、あなたの国の政治はどうなるだろうか。それはまだ独立国家であり続けるだろうか、それとも、データ植民地になってしまうだろうか。
十分なデータを手にすれば、国を支配するために兵士を送る必要はなくなる。
不平等と並ぶもう一つの大きな危険は、常に全員を監視するデジタル独裁の台頭である。
この危険は単純な方程式の形で表すことができる。これこそが、21世紀の生命を定義する方程式になるのではないかと私は考えている。
B x C x D = AHH!
何を意味するのか。生物学的知識に計算能力を掛け、さらにデータを掛けると、人間をハッキングする能力になる、ああ。
生物学について十分な知識があり、十分な計算能力とデータを持っていれば、私の身体や脳、人生をハッキングすることができ、私自身が理解している以上に私を理解することができる。私の性格タイプ、政治的見解、性的嗜好、精神的な弱点、最も深い恐れや希望を知ることができる。あなたは私自身よりも私のことをよく知っている。そして、それは私一人にとどまらず、すべての人々に対して可能なのだ。
私たちが自分自身を理解している以上に私たちを理解するシステムは、私たちの感情や決定を予測し、操作し、最終的には私たちに代わって決定を下すことができる。
過去には、多くの政府や独裁者がそれをしたいと望んだが、誰も生物学を十分に理解しておらず、何百万人もの人々をハッキングするための十分な計算能力とデータを持つ者はいなかった。ゲシュタポもKGBもそれをすることはできなかった。しかし、やがて少なくとも一部の企業や政府が、すべての人々を体系的にハッキングできるようになるだろう。私たち人間は、もはや神秘的な魂ではなく、ハッキング可能な動物なのだという考えに慣れるべきだ。それが私たちの実像なのだ。
人間をハッキングする力は、より優れた医療の提供など、善い目的のために使うこともできる。しかし、この力が21世紀のスターリンの手に渡れば、その結果は人類史上最悪の全体主義体制となるだろう。そして私たちはすでに、21世紀のスターリンという職務への応募者を数多く抱えている。
20年後の北朝鮮を想像してみてほしい。誰もが生体認証のブレスレットを着用しなければならず、それは1日24時間、血圧、心拍数、脳活動を絶えず監視する。ラジオで偉大な指導者の演説を聞けば、指導者はあなたが実際に何を感じているかを知っている。手を叩き微笑むことはできても、もし怒っていれば、指導者は分かり、あなたは明日には強制収容所(グラーグ)に送られるだろう。
そして、そのような全面的監視体制の出現を許すならば、ダボスのような場所にいる富裕層や権力者が安全だとは考えないでほしい。ジェフ・ベゾスに聞いてみればよい。スターリン時代のソ連では、国家は共産党エリートの構成員を他の誰よりも厳しく監視していた。将来の全面的監視体制でも同じことが言えるだろう。階層の上位にいればいるほど、あなたはより綿密に監視されることになる。
あなたは、あなたのCEOや大統領があなたが本当は彼らをどう思っているかを知ることを望むだろうか。
したがって、エリート層を含むすべての人々の利益となるのは、そのようなデジタル独裁の台頭を防ぐことである。そして当面は、もしどこかの王子を名乗る人物から怪しいWhatsAppのメッセージを受け取ったら、開かないでほしい。
さて、もし私たちがデジタル独裁の確立を実際に防ぐことができたとしても、人間をハッキングする能力は、依然として人間の自由の意味そのものを損なう可能性がある。なぜなら、人間がますます多くの決定を私たちに代わってAIに頼るにつれ、権限は人間からアルゴリズムへと移行するからであり、それはすでに起きているのだ。
今日でさえ、何十億もの人々が、何が新しいかを伝えるものとしてFacebookのアルゴリズムを信頼し、何が真実かを伝えるものとしてGoogleのアルゴリズムを信頼し、何を視聴すべきかを伝えるものとしてNetflixを信頼し、何を購入すべきかを伝えるものとしてAmazonやAlibabaのアルゴリズムを信頼している。
そう遠くない未来には、同様のアルゴリズムが、どこで働き、誰と結婚すべきかを伝え、さらに私たちを仕事に採用するかどうか、ローンを与えるかどうか、そして中央銀行が金利を引き上げるべきかどうかを決定するかもしれない。
なぜローンが認められなかったのか、なぜ銀行が金利を引き上げなかったのかと尋ねても、答えはいつも同じだ。コンピュータがノーと言ったからである。そして、限られた人間の脳には生物学的知識、計算能力、データが十分に備わっていないため、人間はコンピュータの決定を理解することができなくなるだろう。
したがって、表向きは自由な国々においてさえ、人間は自らの人生に対する支配を失い、公共政策を理解する能力も失う可能性が高い。
今でさえ、どれだけの人が金融システムを理解しているだろうか。非常に寛大に見積もっても1%ほどだろう。数十年後には、金融システムを理解できる人間の数はちょうどゼロになるだろう。
私たち人間は、人生を意思決定のドラマとして捉えることに慣れている。しかし、ほとんどの決定がアルゴリズムによって下されるとき、人間の人生の意味は何になるのだろうか。私たちはそのような存在を理解するための哲学的なモデルさえ持っていない。
哲学者と政治家の間にある通常の取引は、哲学者が多くの空想的な考えを持ち、政治家は基本的にそれらの考えを実行する手段がないと説明する、というものだ。今や私たちは逆の状況にある。私たちは哲学的破綻に直面しているのだ。
情報技術とバイオ技術という二つの革命は、今や政治家に天国か地獄を作り出す手段を与えつつあるが、哲学者は新しい天国と新しい地獄がどのようなものになるかを概念化することに苦慮している。そしてそれは非常に危険な状況である。
新しい天国を十分に速く概念化できなければ、私たちは素朴なユートピアに容易に惑わされるかもしれない。また、新しい地獄を十分に速く概念化できなければ、そこから抜け出す道のないまま閉じ込められてしまうかもしれない。
最後に、技術は私たちの経済、政治、哲学だけでなく、生物学そのものをも破壊しかねない。
今後数十年の間に、AIとバイオテクノロジーは、生命を作り直し、さらには全く新しい生命体を創造する神のような能力を私たちにもたらすだろう。自然選択によって形作られた40億年の有機的生命の後、私たちは知的設計によって形作られる無機的生命の新時代に入ろうとしている。
私たちの知的設計は生命進化の新たな原動力となるだろう。そして新たな神の創造の力を用いる中で、私たちは宇宙規模の過ちを犯すかもしれない。特に、政府、企業、軍隊は、必要とする人間の能力、たとえば知性や規律を強化するために技術を使い、一方で、思いやり、芸術的感性、精神性といった他の人間の能力を軽視する可能性が高い。
その結果、非常に知的で非常に規律正しいが、思いやりや芸術的感性、精神的な深みを欠く人類が生まれるかもしれない。もちろん、これは予言ではない。これは単なる可能性にすぎない。技術が決定論的であることは決してない。
20世紀には、人々は同じ工業技術を用いて、ファシスト独裁、共産主義体制、自由民主主義といった非常に異なる社会を築いた。21世紀にも同じことが起こるだろう。
AIとバイオテクノロジーは確実に世界を変革するだろうが、私たちはそれらを用いて、非常に異なる社会を作り出すことができる。そして、私が挙げた可能性のいくつかを恐れているなら、それでもなお何らかの対策を講じることができる。しかし効果的に行動するためには、世界的な協力が必要である。
私たちが直面する三つの存亡に関わる課題はすべて、世界的な解決策を必要とする世界的な問題である。
「まず自国を!」といったことを指導者が口にするたびに、私たちはその指導者に、いかなる国も単独で核戦争を防いだり生態系の崩壊を止めたりすることはできず、いかなる国も単独でAIやバイオエンジニアリングを規制することはできない、と思い出させるべきである。
ほぼすべての国がこう言うだろう。「我々は殺人ロボットを開発したくないし、人間の赤ちゃんを遺伝子操作したくもない。我々は善良な側だ。しかし、ライバルがそれをしないと信用することはできない。だから我々が先にやらなければならない」と。
AIやバイオエンジニアリングのような分野でそのような軍拡競争を進展させることを許せば、軍拡競争に誰が勝つかは実際のところ重要ではない。敗者は人類になるのだ。
残念ながら、世界的な協力がこれまで以上に必要とされている、まさにそのときに、世界で最も強力な指導者や国家の一部が、意図的に世界的な協力を損なっている。米国大統領のような指導者は、ナショナリズムとグローバリズムの間には本質的な矛盾があり、私たちはナショナリズムを選ぶべきでグローバリズムを拒否すべきだと言う。
しかし、これは危険な誤りである。ナショナリズムとグローバリズムの間に矛盾はない。なぜならナショナリズムとは外国人を憎むことではないからだ。ナショナリズムとは同胞を愛することである。そして21世紀において、同胞の安全と未来を守るためには、外国人と協力しなければならないのだ。
したがって21世紀において、善良なナショナリストは同時にグローバリストでもなければならない。さて、グローバリズムとは、世界政府を樹立すること、すべての国家の伝統を捨てること、あるいは無制限の移民に国境を開くことを意味するわけではない。むしろ、グローバリズムとは、いくつかの世界的なルールへのコミットメントを意味する。
それは、各国の独自性を否定するのではなく、国家間の関係だけを規制するルールである。
そして優れたモデルとなるのが、サッカー・ワールドカップである。
ワールドカップは国家間の競技であり、人々はしばしば自国代表チームに熱烈な忠誠心を示す。しかし同時に、ワールドカップは世界的な調和の見事な表れでもある。フランス人とクロアチア人が試合のための同じルールに合意しない限り、フランスはクロアチアとサッカーをすることはできない。そしてそれこそが、行動するグローバリズムなのである。
もしあなたがワールドカップが好きなら、あなたはすでにグローバリストなのだ。
さて、各国がサッカーだけでなく、生態系の崩壊を防ぐ方法、危険な技術を規制する方法、そして世界的な不平等を減らす方法についても、世界的なルールに合意できることを願っている。たとえば、AIがアメリカのソフトウェアエンジニアだけでなく、メキシコの繊維労働者にも利益をもたらすようにするにはどうすればよいか。もちろん、これはサッカーよりもはるかに難しいだろう。しかし不可能ではない。なぜなら、不可能なことについては、私たちはすでにそれを成し遂げてきたからだ。
私たちは、人類が歴史を通じて生きてきた暴力的なジャングルから、すでに抜け出している。何千年もの間、人間は至る所に戦争がある状況でジャングルの掟の下に生きてきた。ジャングルの掟によれば、近接する二国のそれぞれについて、翌年に互いに戦争を仕掛けるもっともらしいシナリオが存在した。この掟の下では、平和とは「戦争の一時的な不在」を意味するにすぎなかった。
たとえばアテネとスパルタ、あるいはフランスとドイツの間に「平和」があったとき、それは今は戦争をしていないが、来年には戦争をするかもしれないことを意味した。そして何千年もの間、人々はこの掟から逃れることは不可能だと考えていた。
しかし、ここ数十年の間に、人類は不可能なことを成し遂げ、掟を破り、ジャングルから抜け出すことに成功した。私たちは、多くの不完全さにもかかわらず、人類史上最も繁栄し、最も平和な時代をもたらしてきた、ルールに基づく自由主義的な世界秩序を築いたのだ。
「平和」という言葉の意味そのものが変わった。
「平和」はもはや戦争の一時的な不在を意味するだけではない。今や平和とは、戦争のもっともらしさがないことを意味する。
フランスとドイツのように、翌年に互いに戦争をするなど想像することさえできない国々が多く存在する。世界の一部地域では今も戦争が続いている。私は中東の出身なので、そのことは完璧に理解している。しかし、そのことによって世界全体の状況を見失うべきではない。
私たちは今、戦争で命を落とす人が自殺で命を落とす人より少なく、火薬よりも砂糖の方が生命にはるかに大きな危険をもたらす世界に生きている。ロシアなど一部の顕著な例外を除き、ほとんどの国は隣国を征服し併合することを夢見ることさえしない。だからこそ、ほとんどの国は国内総生産の約2%程度を国防に費やす余裕があり、教育や医療にははるかに多くを費やしている。これはジャングルではない。
残念ながら、私たちはこの素晴らしい状況にすっかり慣れてしまい、それを当然のものとみなすようになった。その結果、私たちは極めて不注意になりつつある。脆弱な世界秩序を強化するためにできる限りのことをするのではなく、各国はそれを軽視し、さらには意図的に損なっている。
世界秩序は今や、誰もが住んでいるが誰も修理しない家のようなものになっている。あと数年は持ちこたえるかもしれないが、このまま続ければ崩壊し、私たちは再び至る所に戦争がある、ジャングルへと戻ってしまうだろう。
私たちはそれがどのようなものであったかを忘れてしまったが、歴史家として信じてほしい。あなたは決してそこに戻りたくはないはずだ。それはあなたが想像する以上にはるかに、はるかに悪いものなのだ。
そう、私たちの種はそのジャングルの中で進化し、何千年もの間そこで生き、さらには繁栄してきた。しかし、21世紀の強力な新技術とともに今そこに戻るならば、私たちの種はおそらく自らを絶滅させてしまうだろう。
もちろん、たとえ私たちが姿を消したとしても、それが世界の終わりとなるわけではない。何かが私たちの後に生き残るだろう。おそらくネズミがいずれ支配者となり、文明を再建するだろう。そうなれば、おそらくネズミは私たちの過ちから学ぶだろう。
しかし私は、ここに集まった指導者たちに頼ることができ、ネズミに頼る必要はないことを強く願っている。
ありがとうございました。
