顔認識技術は、捜査の迅速化、犯罪者の逮捕につながる可能性を持ち、ひいては犯罪の解決、阻止、予防に役立つ可能性がある。
法執行機関による将来的な広範な利用は、不当逮捕、監視、人権侵害のリスクに対する懸念を生じさせている。
新しいホワイトペーパーは、世界経済フォーラムが国際刑事警察機構（INTERPOL）、国連犯罪司法研究所人工知能・ロボット工学センター（UNICRI）およびオランダ警察と連携して発表したもので、顔認識技術の責任ある利用を確保するための枠組みを提示している。
この枠組みの試行は2022年1月に開始される予定である。
2021年4月、欧州委員会（EC）は待望の人工知能法を公表した。これは、AIアプリケーションを異なるリスクカテゴリーに分類する包括的な規制案である。特定された高リスクのアプリケーションのうち、顔認識技術（FRT）を含む遠隔生体認証システムは、特に懸念されるものとして取り上げられた。特に法執行分野での利用は、強固なガバナンスの仕組みがない場合、人権侵害につながるおそれがある。
法執行と顔認識技術
各国・地域において、政策立案者は法執行機関によるFRTの利用に伴う機会とリスクの双方への認識を高めている。ここでいう顔認識とは、捜査対象の人物の画像（写真や動画の静止画など、容疑者や関心対象者のもの）を、一つまたは複数の参照データベースに保存された犯罪者や行方不明者の顔画像と照合し、警察の捜査を進めるために、ある人物を（可能性のある）識別する過程を指す。
一方でFRTは、犯罪の解決、阻止、予防、そして犯罪者の逮捕に役立つ可能性を持つ。具体的には、ATM詐欺犯の特定、公共空間でのテロリストの捜索、児童虐待への対策、さらには行方不明者の発見など、さまざまな種類の捜査に有用となりうる。他方で、初期の経験から、適切な監督がなければ、FRTは人権侵害を引き起こし、市民に害を与えるおそれがあることが示されている。
このような状況において、適切なバランスを見出すことは困難である。政策立案者は、完全な禁止から、不当逮捕のリスクを抑えるための追加的な説明責任の仕組みの導入まで、さまざまな選択肢を検討しうる。米国では、サンフランシスコ、オークランド、およびボストンなどの都市が公的機関によるFRTの利用を禁止しており、ワシントン州、バージニア州、およびマサチューセッツ州は、その利用を規制する法案を導入している。他の地域では、政策アジェンダの形成において裁判所の判断が重要な役割を果たしている。英国控訴院は、サウスウェールズ警察が特定の催しや、犯罪が発生しやすいと考えられる公共の場所で指名手配者を識別するためにFRTを配備したことを違法と判断した。
より世界的なレベルでは、国連人権高等弁務官事務所（OHCHR）による最近の報告書は、デジタル時代のプライバシーの権利について、精度や差別的影響に重大な問題がないことを示せるまで、各国政府に公共空間におけるリアルタイムの遠隔生体認証の利用を停止するよう勧告している。また、これらのAIシステムは、強固なプライバシーおよびデータ保護基準に準拠しなければならないことも示唆している。
顔認識技術には強固なガバナンス体制が必要である
こうした重要な進展にもかかわらず、世界の大半の政府は、顔認識システムが国家の安全と保安に寄与する可能性を認識しているものの、重要な検討事項が大きく見過ごされてきたため、FRTの規制という課題に依然として取り組んでいる段階にある。仮に、正当な警察活動の目的のためにFRTの比例的な利用を認めるとした場合、法執行活動が人権に適合しているかを評価し、市民からの苦情に対応する責任を誰が担う監督機関とすべきか。導入されたFRTソリューションの高い性能水準をどのように維持すべきか。法執行機関にはどのような調達プロセスを設けるべきか。
これらの課題に対応するため、世界経済フォーラムは、国際刑事警察機構（INTERPOL）、国連犯罪司法研究所人工知能・ロボット工学センター（UNICRI）およびオランダ警察と連携し、ホワイトペーパーを公表した。同ホワイトペーパーは、次の2つの重要な要素から構成されるガバナンス枠組みを提示している：
関連するすべての政策上の検討事項を網羅することにより、法執行機関による捜査における顔認識の責任ある利用を定義する一連の行動原則；
法執行機関が行動原則への適合を確保するために遵守すべき要件を詳述する自己評価質問票。
このように、本取り組みは、グローバルかつマルチステークホルダーのコミュニティが主導する、法執行機関の捜査におけるFRTのリスクに対する最も包括的な政策対応を示すものである。
今後の取り組み
本プロジェクトは現在、試行段階に入っている。この期間中、我々はガバナンス枠組みを試験し、その実現可能性、妥当性、使いやすさ、完全性を確認する。観察された結果に基づき、枠組みを更新する予定である。
オランダ警察は、試行プロセスへの参加に同意した最初の法執行機関である。ただし、このユースケースの繊細さを考慮し、他の法執行機関にも参加し、このグローバルな取り組みに貢献するよう強く呼びかける。また、顔認識技術のガバナンスに関する世界的な政策論議に関わる政策立案者、業界関係者、市民社会の代表者、学識経験者にも、本取り組みへの参加を招請する。
この試行段階が完了した後、行動原則と自己評価質問票を更新し、最終版を公表する予定である。
