追跡技術はCOVID-19の感染拡大の監視に役立つ可能性があります。
一方で、プライバシーやデータ管理に関する疑問も生じさせます。
独立した監督の確保など、こうした技術の責任ある利用を確保するための4つの方法を紹介します。
COVID-19との闘いにおいて、テクノロジーのガバナンスは明確な岐路に立っています。復興をめぐる議論の一部となり、テクノロジーの信頼できる利用に向けた官民のグローバルな協力が生まれるかもしれません。あるいは、コロナウイルスや新たなウイルスとの継続的な闘いを名目に監視技術を利用し、公民の自由が大幅に損なわれる事態になるかもしれません。
多くのテクノロジー企業と少なくとも30の政府が、追跡ツールの提案または導入を始めています。Privacy Internationalは、こうした取り組みを収集しており、プライバシーと自由の尊重に関する幅広いアプローチを示しています。共通のガバナンス枠組みがないことは明らかです。
スマートフォンを用いた追跡技術は、集団内でのウイルスの広がりを監視し、感染が確認された新たな集団の発生を迅速に防ぐことで、各国のロックダウン解除を後押しする可能性があります。しかし、国民の健康データの収集や移動の追跡に伴う、深刻なプライバシー上のリスクももたらします。政府とテクノロジー企業が強固なガバナンス枠組みを整え、真の協力に依拠しなければ、これらのツールは私たちの自由を前例のない形で侵害するおそれがあります。
「パンドラの箱が開けば、後戻りできないかもしれない」と、国連地域間犯罪司法研究所（UNICRI）の人工知能・ロボティクスセンター長、イラクリー・ベリゼ氏は、最近の記事で述べました。
自由を侵害せずにロックダウン解除を進めるには、この曖昧な領域をどう切り抜ければよいのでしょうか？
世界経済フォーラムの第四次産業革命センターは最近、フランスで、顔認識技術の責任ある利用に関するガバナンス枠組みを検証するパイロットプロジェクトを開始しました。この取り組みから、COVID-19後の世界でテクノロジーを責任をもって利用するための4つの教訓が得られます。
1. 多様なステークホルダーによるアプローチを採用する
COVID-19により、これまで歴史的に政府が担ってきた医療や安全保障のインフラにおいて、テクノロジー企業が新たな主導的役割を担う可能性があります。多様なステークホルダーによるアプローチは、公共部門と民間部門の役割の均衡を図り、連携を促すとともに、地域、国内、世界の各レベルで市民の権利を最優先する助けとなります。
2. 想定される制約を明確にする
追跡技術の目的と限界について合意することが極めて重要です。たとえば、ハーバード大学のバークマン・クライン・センターは、AIの倫理的な取り組みを数多く列挙するためのツールを開発しました。政策立案者とテクノロジー企業は、9つの主要原則を検討し、あらゆるツールに不可欠な要件を定めるための問いを提示する必要があります。
バイアスと差別：このツールにバイアスや差別のリスクはあるでしょうか。ある場合、どのように軽減できますか？
比例性：このツールによってどのようなトレードオフが生じますか？
プライバシー：プライバシーを優先する「プライバシー・バイ・デザイン」の原則を、このツールは順守していますか？
説明責任：外部監査のために、どのような説明責任の仕組みが設けられていますか？
リスクの予防：問題が発生した場合、どのようなリスク軽減プロセスが用意されていますか？
性能：システムの性能と精度はどの程度で、どのように評価されていますか？
情報を得る権利：利用者には、データ共有について十分な情報が提供されていますか？
同意：利用者が十分な説明を受けたうえで、明示的かつ自由意思による同意を行うことを、どのように確保しますか？
アクセシビリティ：障害のある人を含め、誰もがこのツールを利用できますか？
3. 継続的な内部評価を確保する
原則を定めたら、次にシステムが要件を満たしていることを確認します。その方法の一つは、製品チームが順守状況を内部で確認できるよう、質問リストを作成することです。この質問票は、政策上の原則と技術的要件の隔たりを埋める助けになります。
たとえば、IBM ResearchはAIサービスへの信頼を高めるための「FactSheets」という枠組みを設けています。Googleは最近、アルゴリズムの内部監査に関する枠組みを提案し、MicrosoftはAI原則の一覧と、それを社内で適用するためのツールを用意しました。こうした有望なプロジェクトは、他のテクノロジー企業にとってベストプラクティスとなる可能性があります。
4. 監督を担う独立した第三者を特定する
社内向け質問票に加え、独立した第三者によるシステムの外部監督も必要です。信頼は、この独立機関が検証を行うためにシステムへアクセスできるかどうかにかかっています。
近年の歴史を見ると、危機の後には監査や監査改革の必要性が急速に高まります。たとえば、金融サービスの不正に対応する新たな規制を設けた2002年のサーベンス・オクスリー法は、エンロンの経営破綻を受けて成立しました。航空宇宙産業では、近年のボーイング737 MAXの事故を受け、より強力な管理体制が新たに導入される可能性があります。
現時点では、市民を守れなかった事例が報告され、スキャンダルにつながっている場合でさえ、テクノロジー企業の多くは外部監査を避けてきました。たとえば、clearview.aiの事例を考えてみましょう。この顔認識ツールは、ソーシャルメディアのアプリやその他数百万のウェブサイトを含むインターネット上から収集した、これまでにない30億枚以上の画像データベースを利用しています。このスタートアップ企業はプライバシー上の懸念を招いただけでなく、最近、データ侵害の被害に遭ったと報じられています。従来型産業に当てはまることは、テクノロジー部門にも当てはまるべきです。
私たちは、第四次産業革命がもたらす潜在的リスクを軽減するうえで、テクノロジーのガバナンスが鍵となることを知っています。COVID-19危機は、その真価を問う試練です。復興を後押しするだけでなく、利用者の権利も守る追跡ツールを実現できる枠組みを、今すぐ構築しなければなりません。
