顔認識ソフトウェア（FRS）の悪用の可能性は、倫理的な利用、プライバシー、アクセシビリティに関する根本的な問いを投げかけています。
顔認識ソフトウェアを開発する人々は、倫理的で責任ある技術設計を確保するための標準を策定できます。
顔認識ソフトウェア（FRS）は近年注目を集めており、それは当然のことです。その悪用の可能性は、倫理的な利用、プライバシー、アクセシビリティに関する根本的な問いを投げかけています。一部のケースでは、大手企業が開発を停止したこともあり、一部のNGOは全面的な禁止を求めています。
こうした動きを受け、顔認識技術の開発においてより高い標準化を求める声もあります。多くの人々が、この技術が許容できない自由の侵害に使われうることを認識しているためです。米国のある大都市の警察署長は、FRSの精度の低さから、当局が人物を誤って特定しかねない96%の確率で警察官が本技術だけを単独で活用した場合に、と指摘しています。
こうした懸念を軽減するために、顔認識ソフトウェアを開発する人々は、倫理的で責任ある技術設計を確保するための標準を策定できます。このような人間中心の標準は、信頼を築き、偏りや不適切な適用から保護するのに役立ちます。
過去1年間、世界経済フォーラムの人工知能チームは、顔認識技術には責任ある限界を設定できることを明らかにしました。同チームは、公共部門と民間部門と協力し、独自のFRSフレームワークを策定しました。これは、技術者による責任ある開発と、政策立案者による責任ある導入に重点を置いたものです。
このフレームワークは、一般原則を超えて、倫理的で責任あるAIという旗印の下で商用ユースケースを実際に運用可能にする、初めての試みです。次の4つの簡単なステップで構成されています。
1. 責任ある利用を定義する原則を策定する。
COVID-19によって、非接触型サービスが本人確認の安全な手段として広がったことで、顔認識は特に重要性を増しています。タッチレスかつパスワード不要の技術が今後の方向性である一方、企業は進むべき方向を選択できます。
その道筋を導き、悪用を防ぐために、企業は、責任ある顔認識技術の定義を示す「行動原則（Principles for Action）」を策定できます。これらの原則は、技術の悪用から利用者を守るための7つの主要分野に焦点を当てるべきであり、業界関係者、政策立案者、擁護団体、学術関係者との協議を経て策定され、これらの関係者間で高いレベルの合意を得ることを目標とすべきです。これらの分野は以下のとおりです。
プライバシー：エンドユーザーの個人データを保護すること
リスク評価：誤りとその影響のリスクを軽減するプロセスを構築すること
技術の比例的利用：利用上のリスクと機会のトレードオフを評価すること
説明責任：プラットフォーム提供者および本技術を利用する組織の責任を定義すること
同意：エンドユーザーによる自由な同意に関するルールを定めること
アクセシビリティ：本技術が障害のある人々にも対応していることを確保すること
適応性：状況の変化に応じて代替手段を提供し、監視のために人間が待機していること
これらの行動原則を効果的に導入するためには、潜在的なリスクを軽減するため、内部プロセスと監視を通じて、事業運営の中核に組み込まれる必要があります。
これらの点を考慮することで、高いレベルのセキュリティとデータプライバシーの尊重を確保できます。その適用例としては、生体データを24時間後に自動削除すること、設計者間で影響評価を実施して潜在的な偏りを特定すること、あるいは、FRSシステムが稼働中であることを通行人が認識できるよう公共の案内表示を設計することなどが挙げられます。
「人間中心の標準は、信頼を築き、偏りや不適切な適用から保護するのに役立ちます。」
2. 製品チームを支援するシステムを設計する。
「設計段階から責任を組み込んだ（responsible by design）」技術を開発するにあたり、製品チームには、特別な支援、ベストプラクティス、テストや品質管理のためのシステムが必要になります。この支援を提供するシステムを設計する際に考慮すべき要素には、以下が含まれます。
顔認識の正当性
エンドユーザーの特性に合致したデータ計画
偏りのリスク軽減
エンドユーザーへの情報提供の方法
各要素を考慮するためには、技術を利用する組織とプラットフォーム提供者との間で強固な協力関係を築くことで、あらゆるリスクの軽減に役立ちます。例えば、偏りのリスク軽減においては、プラットフォーム提供者が提供するアルゴリズムは、サービス利用者を真に代表するデータで学習させ、リリース前に正しく動作することを確認するためにシステムをテストする必要があります。そのためには、組織はエンドユーザーの多様性を評価し、それをプラットフォーム提供者と共有して、アルゴリズムを適切に学習させるべきです。
偏りが依然として生じる可能性があることを認めつつ、組織は、誰に対しても同じレベルのサービスを提供できるほど堅牢なフォールバックシステムを構築することで、このリスクに備えるべきです。これにより、アルゴリズムの偏りに起因するあらゆる形態の差別を軽減できます。
3. 自ら作業を評価する。
ベストプラクティスや原則は、真空状態では存在し得ません。自己評価は、行動原則が尊重されているかを確認し、潜在的な死角を特定するために不可欠なステップです。そのために、評価アンケートは、各グループが設計したシステムが、自ら設定した標準にどの程度適合しているかを検証する一助となります。
例えば、比例的利用を評価する場合、組織はFRSの代替手段を検討したかどうか、また、それらを却下した理由を文書化したかどうかを確認できます。また、偽陰性と偽陽性のレベルを分析し、そのレベルが導入するユースケースに適しているかどうかを判断することもできます。さらに、肌の色による結果を比較し、システムがいかなる形態の差別も生じさせていないことを証明することもできます。
ギャップが見つかった場合、評価プロセスを通じて、チームはベストプラクティスを参照し、ギャップを埋め、顧客に対する説明責任と信頼性を向上させるための社内措置を講じることができます。
4. 第三者監査によりコンプライアンスを検証する。
企業は、利用者との透明性を築くために、自社で作成したラベルに頼ってしまうことが多すぎます。そうしたラベルの品質は疑わしい場合があり、業界全体に対する信頼の欠如というシステミックなリスクをもたらし、ひいては、透明性を高めるためのより広範な取り組みを損なう可能性もあります。
行動原則に沿った認証を提供するために、第三者かつ独立した機関による監査を受けることは、有効な方策の一つとなり得ます。会計業界の教訓を応用し、独立かつ認定を受けた機関を通じて、透明性と安全性を高めることができます。[例えば、世界経済フォーラムの人工知能チームは、当社のFRSフレームワークを策定するにあたり、認証および評価サービスのフランスのリーディングカンパニーであるAFNOR Certificationと提携しました。]
これらの評価は、エンドユーザー向けのシステム導入直後に実施されるべきであり、基準の遵守を長期にわたり確認するために定期的に実施されるべきです。そうすることで、認証を受けた組織は、顧客に対し、さまざまな要件への適合性を示すことができるようになります。
認証は多くの業界やサービスで広く利用されている一方で、顔認識は、高度な精査を受けているにもかかわらず、既存の認証がないまま導入されています。当社は、この分野における透明性と信頼は、このような仕組みを通じてのみ実現可能であると考えています。
今後の展望
これらの4つのステップは、FRSにおける流量管理のユースケースに向けた、責任あるシステムの設計に役立てることができます。また、設計者と利用者が、これらの実現可能な原則に効果的に準拠することを確保することもできます。
認証は、FRSの規制に向けた実現可能な一歩です。この政策プロジェクトにおける業界関係者、政策立案者、学術関係者、市民社会の協力により、FRSの商用利用に関する標準への強い意欲が示されています。
しかし、政府は、FRSの持続可能な規制を確保する法案を採択し、技術の責任ある利用の定義を国際標準とともに定める必要があります。また、法執行機関によるFRSの利用という難しい問題にも対処し、関連するユースケースにおける適切な監視と説明責任のレベルを決定する必要があります。
IBM、Microsoft、Amazonなどの組織による規制の呼びかけに対しては、新たな規制やガイダンスが続くべきです。さもなければ、信頼の欠如と消費者の回避につながるFRSの導入が見られる可能性が高いでしょう。
