新型コロナウイルス感染症の流行下でAI技術の調達が急がれた結果、ガバナンス上の重要な欠陥が明らかになりました。
こうした欠陥を放置すれば、誤診から国民の信頼の失墜まで、さまざまな問題につながる可能性があります。
新型コロナウイルス感染症が世界に及ぼした影響から、国際協力において相互のつながりが果たす役割と、時代遅れの技術が効果的な政策立案の妨げになることが明らかになりました。
その結果、多くの組織や政府が遅れを取り戻そうと、人工知能（AI）を活用した信頼できるソリューションの特定、評価、調達を急いでいます。
適切なAIソリューションを見つけることは喫緊の課題ですが、公平性、説明責任、透明性に導かれたプロセスを確保するという公共部門の義務が、その課題を複雑にしています（自動化されたプロセスは、構造的な人種差別を悪化させ、既存の不平等を拡大するリスクが特に高いものです）。
各国政府がすでに進めてきたAI調達の取り組みから、ガバナンス上の重大な欠陥が明らかになっています。こうした欠陥を埋めることは、AIの変革力を引き出し、経済の回復を導くにあたり、プライバシーを犠牲にしたり、公衆衛生を損なったりしないための鍵となります。
AIの調達と利用におけるガバナンス改善の機会を、いくつか紹介します。
チャットボット
多くの政府は、国民から寄せられる健康に関する質問が膨大になり、対応能力を超えるのを防ぐため、ウェブサイトにチャットボットを導入しています。一般市民からの問い合わせが政府機関の職員の対応能力を超えた場合、政府によるチャットボットの利用は、より迅速かつ効果的な顧客対応に役立ちます。よくある質問に答え、より複雑な質問を担当者に引き継ぐことで、大幅な時間を節約し、市民のニーズにより適切に応えられます。
それでも、こうした技術の多くには、リスクを最小限に抑えるためのツールやプロセスが欠けています。情報の正確性を確保し、プライバシーを保護し、急速に変化するこの感染症について最新の知見を追える柔軟なモデルを効果的に訓練するための対策は、通常整っていません。その結果、情報発信が効果を発揮せず、少なくとも国民に不利益をもたらす可能性があります。最悪の場合、症状を誤って診断し、数千人、あるいはそれ以上の命を危険にさらしかねません。政府は、誰の声を広く届けるべきか、また共有される情報がどれほど正確かという疑問に答える行動計画を実施しなければなりません。
診断
世界各地の医療施設は、感染の検知にAIシステムを活用しています。たとえば、人の声や胸部X線画像を使う方法です。こうしたツールは、患者の急増に直面する病院の負担を大幅に軽減してきました。しかし、ツールの性能をどのように評価するかについての指針はほとんどありません。そのため、施設が患者を誤診し、状況をさらに悪化させるおそれがあります。
ガバナンスの専門家は、病院に対し、規制上の手続きを弱めず、十分なデューデリジェンスを行わずに長期契約を結ばないよう求めています。AIシステムを使用する前に評価を実施するための政策枠組みを、直ちに整える必要があります。最近の報告書では、新型コロナウイルス感染症の診断と治療を目的とする数十のコンピューターモデルを分析し、すべてのモデルが不適切かつ不十分なデータで訓練されていたことが明らかになりました。こうした評価を通じて、当局者はリスク軽減のプロセス、性能、正確性について重要な問いを投げかけるとともに、独立した第三者による強固な外部監督をシステムに確保すべきです。
ウイルスの感染拡大を追跡する
数十の政府が、人から人へのウイルス感染拡大を監視する追跡ツールを提案、または導入しています。アジアからヨーロッパまで、複数の公共部門機関が民間部門と連携し、AIを活用したサービスでウイルスの感染拡大を監視しています。これには、接触者追跡アプリも含まれます。感染者への聞き取りを行い、その最近の接触者を一人ずつ追跡するという、公務員が長年手作業で行ってきた業務の実現を目指すものです。
このデータが異なる状況で、誰によって利用される可能性があるのかをめぐるプライバシー上の懸念は、今、適切な問いを投げかけることで、後に避けられないデータ保護の問題を予測できることを示しています。十分な記録を残すプロセスを確立すれば、問題が起きた際の評価に役立ち、理想的には被害の発生を防ぐこともできます。注目を集めている対応策の一つは、企業がマルチステークホルダー・アプローチを取り入れ、社内評価用の質問票を設計する内部評価ツールの推進です。例として、IBM ResearchのFactSheets、Googleの社内アルゴリズム監査の枠組み、そしてMicrosoftのAI原則と、それを社内で適用するためのツールが挙げられます。時間をかけ、適切な規模に拡大できれば、こうしたアプローチは、さまざまな用途でAIの責任ある導入を確かなものにする可能性があります。
「将来の適切な意思決定を可能にする、実行可能な調達指針を確立する機会は限られています。」
エダン・カッツ、コナー・サンチェス
今後に向けて
新型コロナウイルス感染症の流行以前から、AI規制を求める声は急増し、AI倫理原則の数も増え続けていました。新型コロナウイルス感染症によって、これらの原則を実践に移す必要性が高まっています。実務者がこうした課題に取り組めるよう、世界経済フォーラムのAI・機械学習プラットフォームは、「Procurement in a Box」パッケージを作成しました。これは、政府調達を通じて公共部門におけるAI導入を促進することを目指しています。今週一般公開されたツールは、調達担当者や民間企業との約2年にわたる協議、草案への意見募集を数回にわたって行ったこと、包括的なワークショップ、個別インタビュー、国際的な実証試験を経て開発されました。
「Procurement in a Box」の取り組みは、技術の倫理的かつ責任ある利用を形づくることで、規範を定める多くの提案を実践に移すことを目指しています。法や文化の違い、AIイノベーション・エコシステムの発展段階を尊重しながら、管轄区域ごとの共通点を普遍化するなど、さまざまな方法で規範の実践的な適用を重視しています。
こうしたツールは、世界各国でさまざまな段階にある国々にとって、今後ますます重要性を増し、その活用も時宜にかなったものとなるでしょう。フォーラムのAI調達イニシアチブは、政府、市民、産業界の間にある信頼の社会契約が宙づりになっている流動的な時期に、形を成してきました。新型コロナウイルス感染症の世界的危機は、イノベーションにおける責任と技術の倫理的利用の必要性を浮き彫りにしました。グレート・リセットに踏み出す今、ガバナンス規範の規則や基準はまだ整っていません。将来の適切な意思決定を可能にする、実行可能な調達指針を確立する機会は限られています。
