多国間システムは、技術革新、とりわけ人工知能（AI）が安全に導入され、グローバル化する世界の倫理的ニーズに沿うよう、新たな社会契約の構築を早急に支援する必要がある。
ボットの大群、Facebookのダークポスト、フェイクニュースサイトがオンライン空間を占拠し、世界各地に重大な影響を及ぼしている。最近の出来事をいくつか考えてみよう。2016年の米大統領選では、ロシアが有料広告、偽のソーシャルメディアアカウント、分断をあおるコンテンツを含む大規模なキャンペーンを展開し、ある候補者を他の候補者より有利にした。
中国では、テクノロジー大手のアリババとテンセントが、顔認識機能を備えた数百万台のカメラを導入し、市民に関するきわめて私的なデータの継続的な流れを商品化している。ミャンマーでは、ある国連の報告書が確認したところ、Facebookへの投稿が、ロヒンギャのイスラム教徒に向けた激しいヘイトスピーチをあおっていた。
AIとデータ駆動型社会の強力で利益の大きい連携により、ソーシャルネットワークは私たちの交流を設計する存在となり、現実の根幹そのものを作り変える新たな支配者となった。
こうした状況のなか、理解や説明責任の枠組みをすり抜けるように見えるアルゴリズム革命に、制御を奪われることへの人々の不安が高まっている。国家および世界の統治に対する信頼は、崩壊寸前にある。
同時に、AI駆動型テクノロジーは、世界の統治メカニズムを強化するよりも、むしろ弱体化させる傾向にある。国連は、相互に関連する広範な課題に直面している。三つを見てみよう。
AIと真実の毀損
第一に、AIは本質的にデュアルユース技術であり、その大きな影響（プラス面もマイナス面も）を予測し、抑制し、軽減することは、今後ますます難しくなる。
ディープフェイクを例に挙げよう。高度なAIプログラムは、音声、画像、動画を操作し、しばしば本物と見分けがつかないほどのなりすましを作り出せるようになった。ディープラーニングのアルゴリズムは驚くほどの精度で人の唇の動きを読み取り、音声を合成し、ある程度まで表情を再現できる。
こうしたシミュレーションが研究室の外に公開されれば、広範な影響を及ぼす形で容易に悪用されかねない（実際、これはすでに起きていることであり、現時点では規模は小さい）。選挙前夜には、公職者がマネーロンダリングに関与していると偽って描くディープフェイク動画が作られる可能性がある。存在しない感染症の流行やサイバー攻撃を警告する動画が人々のパニックを引き起こすこともあり得る。また、捏造された事件が国際的な緊張の高まりにつながる可能性もある。
誤解を招くシミュレーションによって世論に影響を与えるさまざまな主体の能力は、平和と安全における国連の役割に長期的かつ重大な影響を及ぼしかねない。市民と国家、さらには国家間の信頼と真実の感覚を損なうことで、真のフェイクニュースは世界の統治システムを深くむしばむ可能性がある。
AIと精密監視
第二に、AIはすでにバイオテクノロジーを含むさまざまな他の技術と接続し、融合しつつあり、世界の安全保障に重大な影響を及ぼしている。世界各地のAIシステムは、都市の交通パターン、金融市場、消費者行動の傾向データ、健康記録、さらには私たちのゲノムなど、大規模なデータセットを分析して、日常生活のさまざまな側面を予測するよう訓練されている。
こうしたAI技術は、私たち全員に影響を及ぼす形で、行動データや生体データを革新的かつしばしば操作的な方法で活用する能力を高めている。たとえば、スマート人形「マイ・フレンド・ケイラ」は、遊んでいる子どもたちの音声や感情に関するデータをクラウドに送信する。その結果、米連邦取引委員会（FTC）に申し立てが行われ、ドイツでは販売が禁止された。米国では、法廷で証言録取の動画から反省の念を検出するため、感情分析がすでに使われている。近いうちに、候補者の回答や職務への適性を評価するため、採用面接にも導入される可能性がある。
AIが人間の私的な行動に介入し、さらには制御する可能性は、国連の人権課題に直接関わる。社会的・生物学的な新たな統制の形態に対応するには、世界人権宣言の監視と履行のために現在設けられている枠組みを再構想する必要が生じるかもしれない。また、多国間システムには、この急速に台頭する分野をより的確に予測し、理解することが確実に求められる。
戦場のAI
最後に、AI駆動型テクノロジーが大規模な人口に影響を与える能力は、きわめて即時的かつ圧倒的な価値を持つため、将来の紛争の舞台となることはほぼ確実だ。「サイバー競争」が現実のものとなる可能性は非常に高い。そこでは大国や大手テクノロジー企業が、世界規模で経済、医療、安全保障の優位性を生み出す燃料として、私たちの共有データをめぐって公然と競い合う。「サイバー植民地化」の形態もますます現実味を帯びている。強大な国家がAIやバイオテクノロジーを活用して、他国の人々や生態系を理解し、潜在的には制御する能力を持つようになるためだ。
AIの世界的な統治に向けて
政治、法律、倫理の面で、私たちの社会はAIの導入に備えられていない。また、こうした技術が登場する何十年も前に設立された国連は、多くの点で、AIの可能性をこうしたリスクから遠ざけ、私たち全体の安全と幸福へと導く責任ある統治を構築するには、適した立場にない。
実際、世界各地での国家主義的な政策課題の再燃は、AIの世界的な統治において多国間システムが有意義な役割を果たす能力の衰えを示しているのかもしれない。大企業や有力な加盟国は、利益を生み、独自のものであると考える技術に多国間のアプローチを適用する価値を、ほとんど見いださない可能性がある。
しかし、国連が協調的で透明性の高いネットワークの構築を支援し、私たちの「信頼欠如症候群」の治療に着手できるようにする革新的な方法はいくつかある。
国連大学（UNU）に与えられた、事務総長の「新技術戦略」に基づく任務を受け、UNUの政策研究センターは「AIとグローバル・ガバナンス・プラットフォーム」を創設した。これは、研究者、政策担当者、企業関係者、思想的リーダーが、人工知能によって生じる世界的な政策課題を探るための、開かれた場である。
このプラットフォームは、この分野のリーダーたちから世界各地の寄稿を募り、多国間主義の視点と現場から得た教訓を組み合わせ、既存の議論に資する独自の学際的な知見を育むことを目指している。こうした知見は、国連加盟国、多国間機関、基金、計画、その他の関係者が、AIの統治を形作るうえで自らが果たす役割と共同で果たす役割の双方を検討する際に役立つ。
この状況における国連にとって、おそらく最も重要な課題は、その存在意義に関わるもの、すなわち多国間システムへの信頼を取り戻すことだ。しかし、これまでの傾向が何かを示しているとすれば、それはAI駆動型テクノロジーがすべての個人とすべての国家に関わる問題であり、集団的で協調的な統治の形がなければ、世界の安定を損なう現実的なリスクがあるということだ。
