オープンソースAIと軽量な機上処理を利用すれば、写真撮影用ドローンなどの民生機器を致死性自律兵器に転用できる。
民生用無人航空機（UAV）のソフトウェアが致死目的に改変されれば、世界中への拡散は避けられず、このコードの拡散を防ぐ実効的な手段はない。
民生品を転用して非国家主体が極めて多数の兵器を作れないよう、各国は拡散防止措置に合意しなければならない。
致死性自律兵器システムをめぐる大国間の軍拡競争が始まり、大きな注目を集めている。こうした兵器を禁止する条約の可能性をめぐる交渉は、技術が急速に進歩する一方で停滞している。
カメラを搭載したクアッドコプターなどの民生機器を転用し、「自家製」の自律兵器を作れることは、オープンソースの人工知能（AI）機能と軽量・低消費電力の機上処理によって可能になっているが、この事実にはあまり注目が集まっていない。
自家製の致死性自律兵器
非国家主体は、自家製の遠隔操縦ドローンに加え、巡航ミサイルのように自ら指定された標的地点まで飛行し、爆発物を投下できる兵器も配備できる。事例には、シリアのロシア軍基地に対する、13機のドローンを用いた攻撃や、イラク首相に対する暗殺未遂がある。Tワシントン・ポストは、「［イランの］コッズ部隊が、商用UAV［無人航空機］を軍事利用向けに改造する方法について、武装勢力に訓練を提供していた」と報じている。
自家製の完全自律型兵器が、次の論理的な段階となるのだろうか。こうした兵器は防御システムを回避または破壊し、視覚的な基準に基づいて標的を特定・攻撃したり、顔認識や歩容認識を使って個人を追跡したりする可能性がある。
すでに商用UAVは、障害物が密集した場所を進み、特定の人物をロックオンできる。こうしたソフトウェアが致死目的に改変されれば、世界中への拡散は避けられない。このコードの拡散を防ぐ実効的な手段はない。考えられる唯一の対抗策は、基盤となる物理プラットフォームの拡散を防ぐことだ。
少数の自家製自律兵器の製造と使用を止める明確な方法はないようだ。そうした兵器がもたらす脅威は、非国家主体が容易に配備できる少数の遠隔操縦兵器と大きく異なるものではないだろう。どちらの技術でも、「残虐行為」を伴う攻撃による民間人の死傷者は、二桁から三桁へ増える可能性がある。一方、妨害や追跡が可能な通信回線を必要としないため、遠隔暗殺がより大きな問題となるおそれがある。
しかし、真の脅威は大量の兵器にある。数万、そして最終的には数百万の犠牲者を出しかねないスウォームだ。すでに、中央制御された小型UAVを3,000機以上使うアクロバット飛行ショーは、企業イベントで恒例になりつつある。現時点では、こうしたUAVを完全自律化するには機上処理能力と電力が必要で、それを搭載できるのは比較的大型（約50cm）のクアッドコプターに限られる。しかし、AI機能をすべて内蔵した低消費電力の専用チップであるASICにより、直径数センチの致死性自律兵器が実現する可能性がある。そうした機器は100万個でも標準的な輸送用コンテナ1個に収まる。つまり、小型自律兵器を大量に組み立てられる主体は、大量破壊兵器を作り出せるのだ。
したがって、民生品を転用して非国家主体が極めて多数の兵器を作れないよう、国家が拡散防止措置に合意するのが理にかなっている。前例は十分にある。たとえば、核物質の保有と移転に関する核兵器不拡散条約の規則があり、それは米国原子力規制委員会の詳細な規則にも反映されている。同規則は、個人が購入または保有できるウランの量を定めている。また、産業用化学物質が兵器製造に転用されないようにする化学兵器禁止機関の手続きも前例となる。
具体的には、クアッドコプターや小型固定翼機などの民生用UAVのすべてのメーカーが、次のような措置を導入すべきだ。顧客確認ルール、ジオフェンシング、ハードウェア式キルスイッチなどである。国家は情報活動を通じて、部品を大量に集めたり組立ラインを構築したりする試みを探知し、阻止することもできる。さらに、計算機学会、人工知能振興協会、電気電子学会など、AI分野の国際的な専門職団体が、人間を殺すかどうかを選択できるソフトウェアの開発を禁じる方針を採択し、行動規範を公表することも有益だろう。
致死性自律兵器への支持は低い
遠隔操縦兵器が戦争で広く使われるようになるなか、ソフトウェアの変更だけで簡単に自律運用へ転換できないようにすることも重要だ。小規模なテロ組織が配備できる遠隔操縦兵器は少数に限られるが、自律兵器なら人間の操縦者が不要という単純な理由から、極めて多数を配備できる。機上プロセッサーと発射回路を接続しない設計にすれば、こうした転換をはるかに困難にできる。
もちろん、非国家主体がメーカーから致死性自律兵器を容易に直接入手できるなら、民生技術が大規模に転用されて致死性自律兵器が作られるのを防ぐ国際的な取り組みは無意味だ。たとえば、トルコのSTMはKarguドローンを販売している。2017年に発表されたこの機体は、1.1kgの弾頭を搭載し、「自律攻撃」能力や顔認識機能などを備えるとうたわれた。武器禁輸措置にもかかわらず、Karguは非国家主体に引き渡され、2020年にリビアで使用されたと、国連によれば。
非国家主体が自ら大量破壊兵器を作るのを防ぐのが理にかなっているなら、兵器メーカーが彼らに代わって作るのを防ぐのも理にかなっている。つまり、世界の主要国には、致死性自律兵器の開発、製造、配備、使用を禁じる条約を阻止するのではなく、支持する理由が十分にある。
