人類は重大な新たな現実に直面している。自律型兵器の台頭である。ハリウッドの脚本のように聞こえるかもしれないが、そのリスクは現実のものである。人間が戦時の選択から非常に遠ざけられ、生死を分ける意思決定が事実上センサーとソフトウェアに委ねられつつあるのだ。
人間の生命を奪う行為がアルゴリズムに委ねられるとしたら、どのような未来が待ち受けるのか。ロボットやコンピューターシステムには、自らが作動する複雑な環境と使用する兵器の両方を理解する、人間特有の独自の能力が欠けている。さらに、兵器システムが機械学習を組み込むなどしてより複雑になり、人間の介入なしに行動する自由度が高まるほど、その使用がもたらす結果は予測しがたいものになる。
国際赤十字委員会としては、人を殺傷し、破壊する決定に対する責任は人間が保持し続けなければならないと考える。法とその違反の結果を理解し、その適用に責任を負うのは、機械ではなく人間の兵士または戦闘員である。これらの義務をコンピュータープログラムに移譲することはできない。政府は、市民社会と技術業界の意見を取り入れながら、兵器システムの自律性に対する制限について合意することを一刻も早く進めなければならない。
技術の進歩は大きな機会をもたらす。医療、交通、農業、商業、金融、そのほかほぼあらゆる分野において、ロボティクス、AI、機械学習は、周囲の世界から得られるデータの分析と活用の方法を進化させ、変革的な影響を及ぼしつつある。この技術が国家安全保障や防衛目的で検討されるのは当然であり、多くの国がAIや、より高い自律性を備えた軍事用ロボットシステムへの多額の投資を進めているのも驚くことではない。
しかし武力紛争に関しては、戦争にさえ限界があるということを忘れてはならない。自律型兵器システムの限界を定めなければならない政府は、国際人道法の遵守を確保し、人道の原則と公共の良心の要請に確固として根ざしたものでなければならない。
朗報は、自律型兵器システムを検討する任務を負った政府専門家グループが今年4月にスイスのジュネーブで会合を開いた際、兵器システムに対して人間による統制を維持しなければならないという点について、広範な合意があったことである。
しかし、ある意味では、それはまだ容易な部分にすぎない。8月下旬に予定されている次回会合で、政府はこの合意を基に、より難しい問いに答えなければならない。すなわち、我々の法との適合性と我々の価値観への受容性の両方を確保するために、どの程度の人間による統制が必要なのか、という問いである。
この問いへの答えが重要なのは、標的の選定と攻撃という「重要機能」において自律性を備えた一部の兵器システムが、飛来するミサイルやロケットの迎撃など、非常に特定の任務のために限られた状況で既に使用されているためである。人間のオペレーターによって作動させられた後、標的を選定して反撃を開始するのは兵器システムそのものである。
しかし、将来のAIを活用した兵器システムの範囲ははるかに広い。武装ロボットシステムの全範囲を包含し、映像フィードを分析して標的となりうるものを検出する、現在試験段階にあるAIによる「意思決定支援」システムの技術を基盤として発展する可能性がある。
技術革新が猛烈な速度で進む中、政府は科学・技術コミュニティの支援を受けながら、明白な利益をもたらす技術の進歩を妨げたり遅らせたりすることなく、人間が果たす決定的な役割を守る制限について合意するための緊急の行動を取らなければならない。
その代替案は、新たな軍拡競争と、戦争がアルゴリズムによって戦われる未来という、極めて不安を掻き立てる見通しである。そこでは、民間人と戦闘員の双方にとって結果は不確かである。
