この記事は世界経済フォーラムの地政学プラットフォーム
人類の歴史全体を通じて、政治は基本的に、人間の意識的な行動と、ネットワークや組織の中での人間の集合的な行動および相互作用によって動かされてきた。しかし現在、人工知能（AI）の進歩により、この構図が根本的に変わる可能性が出てきている。それは、特定の行為主体性を持つ人間以外の存在という考え方であり、政治に対する私たちの理解を最も広い次元で根本から変えうるものである。
文学、映画、テレビの影響も少なからずあり、AIに関する一般的な考え方は空想的になりがちである。人間とロボットの戦争を描く、虚構的で終末論的な描写は、比較的小規模なAIの進展を大げさに報じる風潮にも影響を与えてきた。
また、科学技術分野の著名な人物たちが、AIは人類の生命にとって実存的な脅威となりうるという厳しい警告を定期的に発してきた。こうしたことが相まって、人間の知能を超える新たな形の知能がまもなく、あるいはすでに私たちのそばにあるという認識が一般の人々の間に広がっている。
人間と限定的な形態のAIはすでに共存している。AI技術は、道案内、テキストの翻訳、格安航空券の検索などに役立っており、これらは一例にすぎない。さらに、既知の欠陥や限界があるにもかかわらず、AIは根本的に変革された未来を象徴するものとなりそうである。
小さな一歩
しかし、AIの進歩が人間の生活、仕事、そして社会的な関わり方にどのような意味をもたらしうるかについての、より極端な考えは、現在の現実からはかけ離れている。2018年時点のAIの性質は、そして今後も当面はおそらく、やや平凡なものである。実際、この分野では、汎用的なAIではなく、特定された分野で具体的かつ実践的な利益をもたらす、比較的小規模な進展が見られている。
人工知能と国際情勢：予想される混乱 は、AIの進歩と応用の拡大により政策立案者が直面しうる課題のいくつかを検討している。本報告書は、今後10〜15年にわたり、AIが国際情勢の選ばれた分野（軍事、人間の安全保障、経済の各観点から）に与えうる影響に関する様々な考え方をまとめている。
本報告書は、人工知能が政策立案および国際情勢において果たしうる役割の種類を定義し区別するための、大まかな枠組みを示している。これらの役割は、分析的、予測的、運用的に分類される。
分析的役割において、AIシステムは、より少ない人数の人間がより高次の意思決定を行うことを可能にしたり、条約遵守を確保するために設置されたセンサーの監視など、反復的な作業を自動化したりする可能性がある。これらの役割において、AIは大きく変化するかもしれず、一部ではすでに変化させており、人間の意思決定者が世界を理解する構造を変えうる。しかし、こうした変化が最終的にもたらす影響は、変革的というよりも限定的なものになる可能性が高い。
予測的なAIの利用は、より深刻な影響をもたらしうるが、おそらくより長期的な時間軸においてである。こうした活用は、政策立案者や国家が特定の行動方針の潜在的な結果をどのように理解するかを変えうる。もしこうしたシステムが十分に正確で信頼されるものになれば、そのようなシステムを備えた主体とそうでない主体との間に力の格差を生み出しうる。その結果は特に予測困難なものとなりうる。
AIの運用的な利用が近い将来に完全に実現する可能性は低い。完全自律型の車両、兵器、そしてロボットによるパーソナルアシスタントなどの物理世界のシステムに対する規制上、倫理上、技術上の障壁は非常に高い。もっとも、これらの障壁を克服するための急速な進歩も見られている。しかし長期的には、こうしたシステムは、意思決定の方法だけでなく、その実行方法をも根本から変えうる。
提言
本報告書は、政府および国際非政府組織に対して、以下の提言を行っている。これらの組織は、新たな倫理規範の策定と提唱において、特に重要な役割を果たすことになる。
中長期的には、AIの専門知識は少数の国や、人口の狭い層のみに集中していてはならない。現在、AIの専門知識は主に米国と中国に集中しているが、各国がそれに依存せずに独立するためには、各国政府は自国のAI人材と専門知識の育成と確保に投資しなければならない。また、固有の偏りの問題を緩和するため、工学人材を幅広い層の中で育成するよう取り組むべきである。
企業、財団、政府は、人道的目標を持つAIシステムの開発と展開に資金を配分すべきである。人道支援分野は、例えば緊急時の対応時間を短縮しうるこうしたシステムから大きな恩恵を受けうる。しかし、人道目的のAIは民間部門にとって直ちに利益を生む可能性が低いため、非営利ベースでそれらを開発するための協調的な取り組みが必要である。
人工知能システムの能力と限界についての理解は、技術専門家だけの専有物であってはならない。AIとは何か、そして特に重要な点として、AIが何でないかについての教育と研修を、可能な限り広く提供すべきである。一方で、基盤となる倫理的および政策的目標についての理解は、技術を開発する者にとって、はるかに高い優先事項とすべきである。
特に防衛分野において、官民のAI開発者間で強固な協力関係を築くことは極めて重要である。イノベーションの多くは商業部門で起きているためである。重大な任務を担う知能システムが、安全かつ倫理的にその任務を遂行できるようにするには、異なる種類の機関間での開放性が求められる。
AIの利点を広く共有しつつ、同時に伴うリスクを適切に管理するため、明確な実践規範が必要である。これらの実践規範を策定する際、政策立案者と技術者は、人工知能システムの規制が兵器や貿易の規制と根本的に異なりうる点を理解するとともに、それらのモデルから関連する教訓を引き出すべきである。
開発者と規制当局は、人間と機械のインターフェースの問題に特に注意を払わなければならない。人工知能と人間の知能は根本的に異なるものであり、多くの応用において重大な結果を招きかねない誤解を避けるため、両者の間のインターフェースは慎重に設計し、常に見直さなければならない。
人工知能と国際情勢：予想される混乱、ジェイコブ・パラキラス博士、メアリー・L・“ミッシー”・カミングス、ヘザー・ロフ博士、ケン・クキエ、ハンナ・ブライス（チャタムハウス）
