この記事は、世界経済フォーラムの地政戦略プラットフォーム
報告書「兵器システムにおける自律性の発展を描く」は、兵器システムにおける自律性の発展を1年間にわたって調査した研究の主な知見と提言をまとめている。
この報告書は、致死性自律兵器（LAWS）の問題に関心を持つ外交官や市民社会のメンバーが、自律性の技術的基盤への理解を深め、兵器システムにおける自律性の進歩の速度や方向性を把握できるよう支援することを目的としている。また、自律性を備えた兵器の進歩が、技術面、法的、運用上、倫理的な懸念を生じさせる可能性のある局面を見極めるための具体例を示している。
また、既存の自律機能を備えた兵器の使用から得られた教訓を示し、意味のある人間による制御のあり得る条件をさらに調査するための足がかりとなることも目指している。さらに、LAWS分野の新興技術の開発を監視、規制する現実的な選択肢を外交官や市民社会のメンバーが特定できるよう支援することも目的としている。
自律性の技術的基盤とは何か？
主な知見は次のとおりである。
1 自律性にはさまざまな定義や解釈があるが、一般に、機械がセンサーとコンピュータープログラムを環境と相互作用させ、人間の介入なしに意図されたタスクを実行する能力と理解されている。
2 自律性は多様な技術に依存するが、主にソフトウェアに支えられている。自律性が実現可能かどうかは、（a）ソフトウェア開発者が意図されたタスクを数学的な問題と解法として定式化できるか、（b）運用環境を事前にマッピングまたはモデル化できるかに左右される。
3 自律性は機械学習によって実現または向上できる。機械学習の兵器システムへの利用は、予測可能性に関する根本的な問題が依然としてあるため、まだ実験段階にある。
兵器システムにおける自律性は、どのような状況にあるのか？
報告書は、配備済みおよび開発中の兵器システムにおける自律性の状況を検討している。主な知見は次のとおりである。
1.自律性はすでに、機動性、標的捕捉、情報収集、相互運用性、健康管理など、兵器システムのさまざまな能力を支えるために使われている。
2. 兵器システムが自律的に標的を捕捉できるようにする技術である自動目標認識（ATR）システムは、1970年代から存在している。ATRシステムの知覚能力と意思決定能力は、依然として限られている。運用環境が複雑になり、気象条件が悪化すると、その性能は急速に低下する。
3.自律的に標的を捕捉し交戦できる既存の兵器システムは、ほとんどが防衛用システムである。これらは人間の監督下で運用され、人間が対応するには交戦までの時間が短すぎると判断される状況に限って、自律的に発射することを意図している。
4.徘徊型兵器は、自律的に標的を捕捉し交戦できることが知られている唯一の「攻撃型」兵器システムである。徘徊する時間と配備される地理的範囲、攻撃可能な標的の種類は、人間が事前に決定する。
兵器システムにおける自律性の発展を促す要因と障害は何か？
報告書が特定した主な促進要因は次のとおりである。
1. 戦略面。米国は最近、自律性を戦略的能力の算定と軍の近代化計画の要として挙げた。これを受けて、とりわけロシアや中国など他の主要軍事大国が反応したとみられる。
2. 運用面。軍事計画担当者は、自律性によって兵器システムの速度、精度、持続性、到達範囲、戦場での連携を向上できると考えている。
3. 経済面。自律性は、特に人員をより効率的に活用することで、兵器システムの運用コストを削減する機会をもたらすと考えられている。
主な障害は次のとおりである。
1. 技術面。自律システムが複雑で変化が激しく、敵対的な環境で安全かつ確実に運用されるには、より高い適応性が必要である。適応型または学習能力を持つシステムについて、新たな検証・妥当性確認の手順を開発しなければならない。
2. 制度的な 抵抗。軍関係者は、自律システムの安全性や信頼性を十分に信頼していないことが多い。一部の軍事専門家は、特定の自律能力の開発を、職業倫理への直接的な脅威、または慣れ親しんだ運用パラダイムと相いれないものと見ている。
3. 法的側面。国際法には、自律的な標的捕捉能力の使用を制限する義務が複数含まれている。また、ほとんどの状況で、軍の指揮系統が兵器システムの挙動に対して何らかの人間による制御または監督を維持することも求めている。
4. 規範面。標的に関する意思決定に自律性を用いることに対し、市民社会からの規範的な圧力が強まっている。そのため、自律型兵器システムの開発は、軍や政府にとって政治的に慎重な対応を要する問題となる可能性がある。
5. 経済面。各国の軍が負担できる費用には限界があり、兵器生産国の大半では、防衛調達制度が自律性の開発に適していない。
関連するイノベーションはどこで起きているのか？
報告書は、自律性の進歩を促すイノベーションのエコシステムを検討し、次のように結論づけている。
1. 基礎科学・技術の水準では、機械の自律性の進歩は主に、人工知能（AI）、ロボット工学、制御理論という3分野の研究によってもたらされている。
2. 自律性に関する軍事研究開発（R&D）で、最も目立ち、体系的で、おそらく成果を上げている取り組みを示してきた国は米国である。中国と、他の兵器生産上位9か国の大半は、AIとロボット工学を重要なR&D分野と位置づけている。これらの国のいくつかは、慎重に米国の後を追い、自律性に焦点を当てたR&Dプロジェクトの実施を目指している。
3. 自律技術のイノベーションを主導しているのは民間産業である。最も影響力のある主体は、Alphabet（Google）、Amazon、Baiduなどの大手情報技術企業や、自動運転車事業に進出したトヨタなどの大手自動車メーカーである。
4. 従来型の兵器メーカーも自律技術の開発に確かに関与しているが、これらの企業がR&Dに振り向けられる資源は、民間部門の大規模な商業企業が投入する資源を大きく下回る。しかし、防衛企業の役割は依然として極めて重要である。商業用の自律技術は、改修なしに軍が採用できることはまれであり、民間部門の企業は軍事契約の獲得にほとんど関心を持たないことが多いためである。
今後の議論に向けた提言
報告書は8つの提言で締めくくられている。これらは、国連で新たに設置されたLAWSに関する政府専門家会合が、建設的な議論の土台を見いだし、審議中の主要論点のいくつかで具体的な進展を遂げられるよう支援することを目指している。
1. 自律型兵器またはLAWSを一般的なカテゴリーとして扱うのではなく、「兵器システムにおける自律性」の発展について議論する。
2. 「完全な」自律性から焦点を移し、自律性が人間による制御をどのように変えるのかを検討する。
3. 標的捕捉の問題にとどまらず、協調作戦（例：群れでの運用）や情報処理における自律性の利用も考慮し、調査の範囲を広げる。
4. 自律性の制御に関する機械学習の最新の進歩と、考えられる影響を明らかにする。
5. 事例研究を用いて、合法性、倫理、意味のある人間による制御をめぐる議論を、兵器システムの開発と兵器使用の実態に結びつける。
6. 航空宇宙、自動車、民間ロボット産業を中心とする民間部門と、自律性、人間による制御、自律システムの妥当性確認と検証の定義について、経験を共有する機会を設ける。
7. 自律性の致死的用途の開発を監視し、必要に応じて制御する今後の取り組みが、民間のイノベーションを妨げないようにするための選択肢を検討する。
8. 非国家主体による民生技術の兵器化リスクを防ぐ選択肢を検討する。
