SpaceX創業者のイーロン・マスクやGoogleDeepMind共同創業者のムスタファ・スレイマンを含む、ロボット工学者とAI研究者116人が、書簡に署名した。国連に対し、自律型兵器、いわゆる「殺人ロボット」の厳格な監視を求める内容だ。書簡そのものの表現はより慎重だが、付随するプレスリリースによると、このグループは「国際的な使用禁止」を求めている。
書簡の署名者には、デンマークのUniversal Robotics、カナダのElement AI、フランスのAldebaran Roboticsの経営幹部や創業者も含まれる。
書簡はロボット兵器のリスクを深刻な言葉で描き、強力な措置が急務だと述べている。これは、ロボット兵器を国連の特定通常兵器使用禁止制限条約に加えることを検討している国連当局者のグループに向けたものだ。1981年にさかのぼる同条約と関連条約は現在、化学兵器、失明を引き起こすレーザー兵器、地雷など、戦闘員に「不必要または正当化できない苦痛を与える、あるいは民間人に無差別な影響を及ぼす」とみなされる兵器を規制している。
ロボット兵士は、人間の兵士の犠牲を減らせる可能性がある。少なくとも、最も裕福で先進的な国々の兵士についてはそう言えるだろう。しかし、民間人へのリスクこそが、マスクらが最も懸念する点だ。スレイマンらのグループは、「これらは恐怖をもたらす兵器となり、独裁者やテロリストが罪のない人々に対して使う兵器、望ましくない挙動をするようハッキングされた兵器にもなりうる」と記している。
書簡はまた、迅速に行動しなければ殺人ロボットをめぐる「軍拡競争」につながると警告しているが、実際にはすでに始まっているとも言える。レイセオンをはじめとする企業では、自律型兵器システムやその前段階となる技術が入手可能、または開発中である。レイセオン、ダッソー、MiG、そしてBAEシステムズ。
Element AI創業者のヨシュア・ベンジオは、AIを兵器化すれば「AIの有益な応用のさらなる発展を妨げる」可能性があるという、もう一つの興味深い警告を発した。これは、過去の戦争で果たした役割を理由に、あらゆる思考機械が禁じられている宇宙を描いたフランク・ハーバートのSF小説『デューン』で予見されたシナリオそのものだ。
国連の兵器関連グループは8月21日月曜日に会合を開く予定だったが、報道によると、その会合は11月まで延期された。
