人工知能は、新型コロナウイルス感染症の流行下で接触者を追跡・特定する重要な手段となっている。
危機が続くなか、市民は新型コロナウイルスと闘うために、市民的自由やデータ保護をこれまで以上に進んで手放すかもしれない。
信頼を維持するには、政府が不可欠なAIガバナンス体制を整備しなければならない。
AIは、新型コロナウイルス感染症の流行下で感染事例を追跡・特定する重要な手段となっているこのパンデミック。こうした技術の導入にあたっては、ウイルスを抑え込む必要性と、個人のプライバシーを守るという相反する必要性とのバランスを取らなければならない場合もあった。当初の危機が長期的な政策や公衆衛生の実践へと移行するなか、政府は、将来の保護策を導入し維持できるよう、AIへの信頼を築く必要がある。
世界各地で、AIの監視能力がウイルスの感染連鎖を断つために活用されている。たとえばロシアでは、新型コロナウイルス感染症の隔離措置を維持するため、CCTVカメラや顔認識を使って市民を大規模に監視している。
新型コロナウイルス感染症の流行に対し、世界経済フォーラムはどのような取り組みを行っているのか。
中国では、AI搭載のドローンやロボットを使って人々の移動や集まりを検知し、発熱している人やマスクを着用していない人を特定している。
一方、イスラエルはAIを活用した接触者追跡アルゴリズムを使い、陽性と診断された人の近くにいた市民に、隔離を指示する個別のテキストメッセージを送っている。
こうした命を救うAIの多くを支えているのは個人データだ。実際、韓国では、クレジットカード決済、携帯電話の位置情報、CCTV、顔画像、体温計、医療記録のデータを組み合わせた強力な仕組みが、接触者の追跡、積極的な検査、対象を絞ったロックダウンの実施という、より広範な戦略の重要な一部となってきた。これらの取り組みを組み合わせた結果、同国では感染曲線の平坦化が進んだ。感染拡大がかなり進んだ時期でも、同国の1日あたりの死者数は8人を超えなかった。
こうした利点がある一方で、市民がこれまで以上に市民的自由を手放すことに前向きになり、データ保護規制当局も、非常時には最も強固なプライバシー権でさえ制約され得ると不本意ながら認めているとしても、私たちはプライバシーに真剣かつ慎重に、そして現実的に向き合わなければならない。
プライバシーが制限される場合、中長期的にAIの利用に対する社会の信頼を維持するには、AI倫理のあらゆる側面を考慮することが重要だ。人々の継続的な参加を確保したい組織は、社会全体の利益に貢献しようという意思から自発的に提供されたデータを、最大限の責任をもって扱わなければならない。
ワクチンの実用化まで少なくとも18か月かかるため、社会の信頼と協力を保ちながら追跡の取り組みを支援する長期的な解決策が必要となる。
「プライバシーが制限される場合、中長期的にAIの利用に対する社会の信頼を維持するには、AI倫理のあらゆる側面を考慮することが重要だ。」
ベスト・プラクティスAIのパートナー、サイモン・グリーンマン
実際、一部の政府は通信事業者や大手テクノロジー企業と連携し、人々の移動傾向を示す、集計・匿名化された位置情報へのアクセスを得ている。また、GoogleとAppleは最近、匿名かつ任意参加型の世界規模の接触者追跡を可能にする、前例のない協力に合意した。
それでも、利用者が参加を選択する方式の取り組みでは、抜けや脆弱性が生じることがある。たとえばシンガポールは、100万人を超える人々がTraceTogetherアプリをダウンロードしたと発表した。しかし、効果を上げるには、人口550万人のうち少なくとも75％がアプリに登録する必要がある。
政府は、新型コロナウイルス感染症やその他の潜在的な健康危機を克服するための長期的な解決策の創出を可能にする、適切なAIガバナンス体制を整備しなければならない。これには次のものが含まれる。
利用期間の制限。個人データの利用はこの危機が続く期間に限り、その後は削除すべきである。
利用目的の制限。個人データの利用は、接触者の追跡や隔離措置の執行など、具体的かつ限定された用途に制限すべきである。
公平性と包摂性。AIシステムは、性別、人種・民族、その他保護対象となる属性にかかわらず、すべての市民を平等に扱わなければならない。そのため政府は、アルゴリズムにどのようなデータセットを入力するかを十分に意識する必要がある。すべての市民のデータを含める必要があり、とりわけ少数派の人々が新型コロナウイルス感染症の影響を不均衡に受ける可能性があることに留意すべきである。
透明性。信頼を築くため、利用する個人データの種類と目的を市民に十分に伝えなければならない。AIによる意思決定アルゴリズムは、その判断根拠を明確に説明したうえでのみ使用すべきである。
説明責任。個人データとAIの利用については、政府およびその機関の、氏名が公表され職責が明らかな人物が説明責任を負うべきである。
監督。責任あるAIの実装を確実にするため、議会機関と独立機関の双方による監督を行うべきである。
確かに、今は非常事態であり、非常措置が求められている。しかし政府や企業は、今後数か月にわたるこの危機、そして将来の公衆衛生上の危機との闘いを支えるため、プライバシーと信頼をどう管理するかを学ばなければならない。
適切な倫理的AI体制があれば、不安を抱える人々の迅速な解決策を求める気持ちにつけ込むことなく、AIが現在の状況にもたらし得る最大の力を生かせる。適切なAIガバナンスは、新型コロナウイルス感染症が発生するずっと前から必要だった。今、その重要性は一段と高まっている。
