1980年代の名作映画『ターミネーター』のようなSFスリラーは、私たちの想像力をかき立てる一方で、自律的で知能を持つ殺人ロボットが人類を滅ぼすという恐怖をも煽っています。
このようなシナリオは非現実的に思えるかもしれませんが、昨年、イーロン・マスク氏やGoogleのDeepMind共同創業者ムスタファ・スレイマン氏を含む100人以上のロボット工学および人工知能技術のリーダーたちが、超知能機械がもたらすリスクについて警告を発しました。
国連の「特定通常兵器使用禁止制限条約」に宛てた公開書簡において、署名者たちは、開発された暁には、殺人ロボット（戦場で自律的に作動するよう設計された兵器）が「これまでにない規模で、人間が理解できる速度を超えた時間軸で武力紛争を戦わせることを可能にする」と述べています。
書簡には次のように記されています。「これらは、独裁者やテロリストが無実の人々に対して用いるテロの兵器であり、望ましくない方法で動作するよう不正に操作された兵器にもなり得ます。行動を起こす時間はほとんど残されていません。一度この『パンドラの箱』が開かれれば、再び閉じることは困難でしょう。」
AIは善の力、そして多様性の力でなければならない
今週、英国政府は報告書を公表しました。この報告書は、貴族院のAI特別委員会の委託によるもので、200人以上の業界専門家の証言に基づいています。報告書の中核をなすのは、AIの倫理的な利用を導き、知らせるために設計された5つの中核原則です。
第一の原則は、AIは人類の共通善と利益のために開発されるべきだと主張しています。
報告書の著者らは、英国がAIの開発と活用を積極的に形作らなければならないと主張し、個人と社会の利益のためにこの技術をどのように最も良く活用できるかを明確にする「共有された倫理的AIの枠組み」を求めています。
また、著者らは、過去の偏見を自動化されたシステムに無意識のうちに組み込んではならないと述べ、そのようなシステムは「最初の段階から、可能な限り多様な人々の意見を取り入れながら、慎重に設計されるべきだ」と訴えています。
理解可能性と公平性
第二の原則は、AIが理解可能性と公平性の枠組みの中で運用されることを求め、企業や組織に対し、自社のAIシステムの理解可能性を高めるよう求めています。
「これがなければ、規制当局は、生活や社会の重要かつ繊細な分野において、不透明な技術の利用を禁止するために介入する必要が生じるかもしれません」と報告書は警告しています。
データ保護
第三に、報告書は、人工知能を個人、家族、または地域社会のデータの権利やプライバシーを損なうために使用してはならないと述べています。
報告書は、データの収集とアクセスの方法を再検討する必要があると述べています。報告書によれば、これは企業がデータへの公正かつ合理的なアクセスを確保できるようにすると同時に、市民と消費者がプライバシーを保護できるようにするためのものです。
「膨大な量のデータを管理する大企業が、この領域で過度に強大になることを防がなければなりません。英国で事業を展開する大手テクノロジー企業によるデータの利用と、データの独占につながる可能性について、政府に対し積極的に見直すよう求めます。」
AIとともに繁栄する
第四の原則は、すべての人が教育を受ける権利を有し、人工知能とともに精神的、感情的、経済的に繁栄できるようにされるべきだと規定しています。
子どもにとっては、幼少期からAIを利用し、AIと協働することを学ぶことを意味します。大人に対しては、報告書は、AIによって雇用市場にもたらされる混乱を打ち消すため、政府がスキルと訓練に投資するよう求めています。
破壊する力に向き合う
第五に、殺人ロボットに関する懸念と一致する形で、報告書は、人間を傷つけ、破壊し、欺く自律的な力を人工知能に決して委ねてはならないと述べています。
「善意に基づくAI研究が、人々に害を及ぼす形で誤用される重大なリスクがあります」と報告書は述べています。「AI研究者と開発者は、自らの研究が もたらす倫理的影響を考慮しなければなりません。」
これらの原則を確立することで、英国は国際社会において模範を示すことができると著者らは述べています。
「私たちは、人工知能の設計、開発、規制、展開のための国際的な規範を確立するために、政府、学界、産業界による世界サミットを招集するよう政府に勧告します。」
