自律型兵器の禁止は答えではない

この記事は、世界経済フォーラムの地政学戦略プラットフォーム

「殺人ロボット」が差し迫ってもたらす危険について、誇張された破滅的な見方が広がっている。その背景には、人工知能やロボット工学の進展が軍事分野に応用される際の倫理的・法的な影響を検討する必要性がある。

それにもかかわらず、こうした課題に対処する最善の方法について国際合意を形成することは、懸念の原因となる能力の定義さえ一致させられないことなどから、妨げられている。

大きな課題の一つは、致死的な武力行使に対する人間の操作者の制御を確保することだ。しかし、一見具体的に聞こえるこのアプローチを取っても、その制御が失われるさまざまな経路が一括りにされてしまう。

熱センサーで作動する機関銃は、単純な自動化の誤用にあたる。人間の操作者に過剰な情報を与え、判断に十分な時間を与えないシステムは、技術的に制御不可能とみなされる可能性がある。遠隔操縦航空機の標的を決める人間の乗組員は、自らの判断から十分に切り離された感覚を抱き、実効的な制御を失うかもしれない。

こうした可能性やその他の論点は、先週、致死性自律型兵器システムを議題に開かれた国連政府専門家会合（GGE）で検討された。この会合は新技術の影響に対処する適切な場だが、検討対象とするリスクを、より具体的に定める必要があることは明らかだ。

禁止を求める声

操作者の入力に対し、予測可能な動作で応答する自動化システムは、以前から存在している。しかし、自動化が高度化するにつれ、懸念が高まり、致死性自律システムの開発禁止を求める声も強まっている。高度に自動化された軍事装備を開発する意図も国内能力も持たない国々からも、そうした声が上がっている。

多くの国はすでにこうした懸念を認識し、新技術がもたらすリスクを特定・軽減するとともに、国際人道法に従って、また多くの場合それより厳格な国内政策に沿って技術が利用されるよう、独自に取り組んでいる。

兵器を責任ある形で開発する国々には、兵器の調達と使用を管理する幅広い措置がある。こうした措置は、軍の指揮官や操作者が有能で十分な情報を得ていること、そして彼らが用いる道具によって武力行使への統制が損なわれるのではなく強化されることを目指している。

肯定的な効果

適切に設計され、効果的な人間の統制下で使われる自動化システムは、国際人道法の原則の遵守を強化し得ると指摘する人もいる。禁止が適切な答えではない理由の一つは、こうした肯定的な効果にある。

AIの進展により、人間の意思決定より「優れた」結果を出す、予測不能なシステムを想定することは現実的になっている。しかし、人間が機械を擬人化しがちな傾向がどれほど強くても、そのような機械が人間と同じように実際に判断を下すわけではない。機械には道徳的主体性がない。

そのような道徳的主体がなければ、国際人道法の遵守を確保することはできない。たとえば均衡性の原則では、民間人への危害や損失が、予想される軍事的利益に照らして過大かどうかを評価する必要がある。新しい機械がどれほど高度になっても、これはその能力の範囲を超える。したがって、国際人道法はすでに、そのようなシステムの使用を事実上禁止している。法的な論拠が説得力を持つなら、戦術上の論拠はなおさらだ。致死的な武力を行使する際に、予測不能な結果の自動実行を許すことは、常識だけでも退けられる。

英国は、先週月曜日に公表された貴族院AI特別委員会の報告書で、より上位の意図や命令を独立して理解できるシステムとする自律性の定義を維持しているとして批判されている。この定義は非現実的だと広く批判されてきた。実際、複雑で本質的に人間が関わる戦争という領域では、責任を意図的に機械に委ねるという発想そのものが非現実的だ。英国の定義は、それが検討対象となり得る最低基準を示している。現時点でそのようなシステムが存在する可能性はほぼなく、今後も実現しないかもしれない。

したがって、致死性自律型兵器システムの開発と使用を禁止することは、一見したほど単純な解決策ではない。

しかし、議論をここで終わらせるべきではない。高度な自動化は、人間による統制に新たな課題をもたらす。GGEは、各国がベストプラクティスを共有し、専門家、研究者、市民社会から意見を集めることで、こうした課題の克服を支援できる場だ。また、自動化兵器の規模やリスクの均衡が戦争の規範に及ぼし得る影響を検討する機会にもなる。

何よりもまず、各国は新たな兵器技術の開発と使用にあたり、すでに負っている国際法上および倫理上の義務を適用する責任を果たさなければならない。

自律型兵器の禁止は答えではない, キャスリーン・マッケンドリック少佐、英国陸軍参謀総長、チャタムハウス国際安全保障部門客員研究員