第四次産業革命の暗い側面――そしてそれを回避する方法

第四次産業革命の暗い側面――そしてそれを回避する方法
このページは、生成AIにより自動翻訳されています。

最近まで、伝統的なテロの手段の及ばない、非常に大規模な被害を与えるには、大人数(軍隊のような)か、大規模で高度な組織(例えば核兵器の開発のための)が必要だった。通常、これらの能力は国家が保有していた。その結果、世界は国家間紛争のエスカレーションを防ぐための手段を最終的に構築した。完全なものではないが、それには条約、協定、国際機関に加え、抑止の概念、そして核時代においては相互確証破壊という共有された考え方が含まれる。結局のところ冷戦が「冷たい」まま続いた理由の一つは、後者にあった。

世界がこの冷戦の論理を放棄するにつれ、関心は強国の権力力学から離れていった。1990年代以降、国際安全保障の主たる焦点は、強国よりも国家の崩壊に、また対称的な競争よりも非対称的な脅威に置かれるようになった。

今日、我々は両方の世界の最悪の側面を同時に抱えているように見える: 戦略的な地政学的競争が再び出現しており、しかし「下からの」分裂、脆弱性、暴力的な混乱は続いており、深刻な国際ガバナンスの危機と相まって、この新たな世界秩序は我々の対応および適応能力を阻害している。

「 第四次産業革命」は、多方面で同時に技術進歩をもたらすという約束とともに、暗い現実も伴う。すなわち、非常に大規模な被害を与える能力の急速かつ大規模な民主化が進んでいるのである。3Dプリンターによる兵器から、家庭の実験室での遺伝子工学に至るまで、さまざまな新興技術にまたがる破壊的なツールが、ますます入手しやすくなっている。

我々は、さまざまな分野の主要な専門家に話を聞き、新興技術の安全保障上の影響についての見解を求めた:

  1. 研究分野が融合する際に、予期せぬ脅威が生じ得る

    「 技術融合」の台頭とともに、認知された技術分野は急速に発展しており、新たな技術の組み合わせは、我々がそれを思い描くことすらできないほどの速さで生み出されている。

  2. ハイテクとローテクの相互作用もまた、予想外の事態をもたらし得る

    シリアやイラクで示されているように、砲兵を用いる歩兵部隊といった伝統的な戦争モデルが新たな技術と組み合わされ、困難で予測不可能な力学を生み出している。

  3. 非国家主体の力は増大しつつある

    新興技術へのアクセスにより、組織犯罪集団は多国籍企業のようなスピードと到達範囲で活動できるようになっており、例えば、 DDoS攻撃 を目を見張るほどの規模で仕掛けている。

  4. 新興技術の研究において安全保障を議題にすることは難しい

    世界には、新興技術から生じ得るリスクにどのように備えるべきかという、極めて重要な議論を行うための信頼できるプラットフォームが欠けている。

  5. 宇宙の規制には新たなアプローチが必要である

    数十年前、宇宙計画を実施する余裕があったのは米国とソビエト連邦だけだった。現在では数十か国が宇宙にプレゼンスを有しており、全衛星の半数以上が商業用である。宇宙は今後の紛争において役割を果たし得るため、宇宙活動を規制する現行の仕組みはもはや目的に適していないのではないかとの懸念が高まっている。

  6. 自律型兵器は差し迫った懸念となりつつある

    人工知能プラットフォーム上で稼働する高度なロボットは、国際法の下で責任を問われるのか。ロボット同士が戦う場合、ソフトウェアのアップグレードやハッキングが一夜にして勢力均衡を覆し得るため、我々は再び戦略的に安定した状況を持ち得るのか。ゲーム理論によれば、戦闘ロボットは適応的かつ予測不可能なものにする必要があるとされるが、そうであれば、配備後にその将来の行動をどのように予測できるのか。彼らは製作者にとっても予測不可能になるのか。こうした問題に関する議論は、まだ始まったばかりである。その理由の一つは、多くの技術革新が、軍縮、不拡散、人道法に関する国家間会議の枠組みの外で進んでいることにある。

  7. 不平等な世界における「すべての人のためのインターネット」は、世界的な反感を生んでいる

    インターネットへのアクセス拡大は大きな経済的機会をもたらすと期待されるが、同時に、多数の絶望的で不完全雇用の若者が、相対的な剥奪感への怒りを表明する新たな手段も生み出している。また、文化的衝突の機会も生まれている。ある環境で許容されることが別の環境では衝撃的に映りうるが、人との接触が伝統的にもたらしてきた文化的仲介なしに、それが起こるのである。インターネットの力によって、アイデアや表現は文化的適応が起こるずっと前に、ナノ秒単位で地球を駆け巡る。

  8. サイバー戦では、攻撃は防御より容易である

大半の国家にとって、その破壊能力は既に防御能力を大きく上回っている。そのため、防御能力ではなく攻撃能力への投資を継続する経済的インセンティブを持ち、その結果、産業および政府の制御システムに脆弱性が生じている。防御側が常に攻撃側に対して一定の優位性を持つという古くからの知見は、したがって逆転している。

これらの課題に直面する中、新興技術がもたらす安全保障上の脅威を人々が真剣に受け止めるよう、どのように促せばよいのか。

  1. MAD 2.0の探求

    前世紀後半を通じて、核戦争への恐怖は次第に、相互確証破壊による比較的な安定に取って代わられた。MADは、互いを破壊する力を持つ主体が限られている場合にはこれまで機能してきたが、潜在的に致命的な主体の拡散がそれを損なう可能性がある。しかし、脆弱性を類似の形で安定へと転換するような、別の均衡を見いだすことはできるだろうか。

  2. 新興技術のための不拡散モデル

    研究が革新と経済成長をもたらす能力を妨げることなく、潜在的に有害な新興技術を管理する法的拘束力のある枠組みを、どのように構築できるのか。核不拡散の取り組みの歴史から得られる教訓もあるが、類似点は完全には一致せず、既存の枠組みで新興技術を扱えるものはない。政府が合意に至ることに困難を抱える中、産業界が主導する必要が生じるかもしれない。

  3. 新技術の教育と開発のための倫理規範

    新興技術に関わる教育者や開発者の間で適用されるべき倫理基準についての議論は、個々の機関で行われているが、その段階はさまざまである。我々は、共通の倫理指針を策定し、それを社会と文化に組み込むために、こうした議論を拡大し、統合し、加速させる必要がある。

  4. 新たな推進者の必要性

    新興技術の安全保障上の影響について、倫理基準や真剣な政治的行動を議論し推進する先導役は誰になり得るか。直接影響を受ける産業が果たすべき役割は明らかだが、例えばゲーム・コミュニティなど、他の推進者も重要となり得る。

  5. 議論を促進し、共同行動を育む場

国家間の協力は依然として最も重要であるが、それだけでは十分ではない。技術変化の驚くべき速度が、規制や条約交渉の能力をはるかに上回るためである。我々は、上記のすべての課題について、共有された懸念と共有された責任への理解を育む、真剣で信頼できる多様な利害関係者による対話のためのプラットフォームを切実に必要としている。

著者:Espen Barth Eide、世界経済フォーラム「グローバル戦略センター」所長兼管理委員会メンバー。Anja Kaspersen、同フォーラム国際安全保障部門長兼執行委員会メンバー

画像:REUTERS/Kacper Pempel/Files

共有:

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。