世界有数の科学・産業団体の一部を後ろ盾に、テクノロジー業界のリーダーたちが、人工知能（AI）を用いる自律型兵器システムの開発に反対する世界的な誓約に署名しました。
テクノロジー業界のエンジニアや科学者は、「致死性自律兵器の開発、製造、取引、使用に参加も支援もしない」と表明しています。
致死性自律兵器システム（LAWS）は「殺人ロボット」とも呼ばれ、人間が判断を下したり承認したりすることなく、人を識別し、標的に定め、殺害できる兵器です。
世界有数のAI研究会議であり、5,000人を超える参加者が集まった2018年人工知能国際合同会議（IJCAI）の開催に合わせてストックホルムで発表されたこの誓約には、人工知能（AI）やロボット工学に携わる90カ国の企業150社と個人2,400人超が署名しました。
企業の署名者には、Google DeepMind、XPRIZE Foundation、University College London、ClearPath Robotics/OTTO Motors、European Association for AI、Swedish AI Societyが含まれます。
個人の署名者には、Google.aiの研究責任者ジェフ・ディーン、起業家のイーロン・マスク、AIの先駆者であるスチュアート・ラッセル、ヨシュア・ベンジオ、アンカ・ドラガ、英国労働党のアレックス・ソーベル下院議員、ニューサウスウェールズ大学のトビー・ウォルシュが名を連ねています。
倫理
シドニーにあるニューサウスウェールズ大学（UNSW）で人工知能を教える教授のウォルシュ氏は、倫理上の問題を指摘します。
「誰が生き、誰が死ぬかという判断を機械に委ねることはできません」と同氏は述べています。
「機械にはその判断を下す倫理観がありません。戦争がこのような形でさらに悲惨なものにならないよう、皆さんや皆さんの組織にも誓約への参加を呼びかけます。」
Future of Life Instituteが取りまとめたこの誓約は、各国政府、学術界、産業界に対し、自らの取り組みに続くよう呼びかけています。
「私たち署名者は、致死性自律兵器を禁じる強固な国際規範、規制、法律のある未来を築くよう、各国政府と政府指導者に求めます。……テクノロジー企業や団体、さらに指導者、政策立案者、その他の人々にも、この誓約への参加を呼びかけます。」
マサチューセッツ工科大学の物理学教授で、Future of Life Instituteの会長を務めるマックス・テグマーク氏が、この誓約を発表しました。
「政治家がこれまで実現できなかった政策を実行に移し、AI分野のリーダーたちが議論から行動へと移る姿を見られてうれしい」とテグマーク氏は述べました。
「AIには世界を助ける大きな可能性があります。その悪用を非難し、防がなければなりません。人を殺すことを自律的に決めるAI兵器は、生物兵器と同じくらい忌まわしく、社会を不安定にするものであり、同じように対処すべきです。」
誓約は次の声明で始まります。「人工知能が軍事システムで果たす役割は、今後ますます大きくなると見込まれます。市民、政策立案者、指導者が、AIの許容できる利用と許容できない利用を区別することが、緊急に求められています。」
差し迫った明白な脅威
Clearpath RoboticsとOTTO Motorsの創業者兼最高技術責任者（CTO）で、致死性自律兵器に強く反対するライアン・ガリエピー氏は、次のように述べました。「Clearpathは、致死性自律兵器システムの拡散が、今も世界のあらゆる国の市民にとって差し迫った明白な脅威であると考えています。どれほど強大な国であっても、安全ではありません。」
「Clearpathの懸念は、他の多くの主要な自律システム企業や開発者にも共有されています。各国政府が、国民の健康、安全、生産性を高める自律システムに時間と労力を投じ、致死的な武力の行使だけを目的とするシステムには投じないことを願っています。」
LAWSの国際的な禁止を求める人々は、ロボットの制御が難しく、ハッキングされやすく、闇市場に流れやすく、テロリストや独裁者も入手しやすいことから、すべての国を不安定化させかねないと懸念しています。
2016年12月、国連の通常兵器使用禁止制限条約（CCW）再検討会議で、LAWSに関する正式な協議が始まりました。会議に参加した26カ国が、これまでに何らかの禁止措置への支持を表明しており、中国も含まれています。
LAWSに関する次回の国連会合は来月開催されます。
誓約の全文
人工知能（AI）が軍事システムで果たす役割は、今後ますます大きくなると見込まれます。市民、政策立案者、指導者が、AIの許容できる利用と許容できない利用を区別することが、緊急に求められています。
こうした認識のもと、私たち署名者は、人の命を奪う判断を機械に委ねてはならないと考えます。この立場には道徳的な側面があります。機械に人命を奪う判断をさせ、その責任を他者、あるいは誰にも問えない状況を許すべきではありません。
これには、強力な実利的根拠もあります。人間の介入なしに標的を選定し攻撃する致死性自律兵器は、あらゆる国と個人にとって危険なほど不安定化を招くでしょう。AI研究者数千人が、人命を奪う際のリスク、責任の所在、難しさを取り除くことで、致死性自律兵器は、特に監視システムやデータシステムと結びついた場合、暴力と抑圧の強力な手段になり得ると考えています。
さらに、致死性自律兵器は核兵器、化学兵器、生物兵器とは大きく異なる特性を持ち、単一の集団による一方的な行動が、国際社会には管理するための技術的手段も世界的なガバナンス体制もない軍拡競争を、あまりにも容易に引き起こすおそれがあります。こうした軍拡競争を非難し、防ぐことは、国家と世界の安全保障にとって最優先事項であるべきです。
私たち署名者は、致死性自律兵器を禁じる強固な国際規範、規制、法律のある未来を築くよう、各国政府と政府指導者に求めます。現時点でこうした規範、規制、法律が存在しないため、私たちは自らに高い基準を課します。致死性自律兵器の開発、製造、取引、使用に参加も支援もしません。テクノロジー企業や団体、さらに指導者、政策立案者、その他の人々にも、この誓約への参加を呼びかけます。
