人工知能（AI）は、COVID-19のパンデミックへの対応に役立つ可能性があります。
しかしその前に、信頼性、安全性、公平性について真剣に問わなければなりません。
AIシステムの監査フレームワークを共同で設計する方法を紹介します。
仮定のシナリオを想像してみてください。ある国家元首が、重度の呼吸器疾患を発症するリスクが高いCOVID-19患者を予測できる、人工知能（AI）を搭載したアプリを開発したと主張するヘルステック・スタートアップの創業者たちと面会します。健康面でも経済面でも、かかっているものは大きく、時間も限られています。
次に何をすべきでしょうか？
世界の確定症例数が100万件を超えるなか、このようなアプリは歓迎すべきツールとなるでしょう。病床の割り当てに関する医師の意思決定を支援し、患者の流れの管理を改善できる可能性があります。感染が確認された場所や、空港・鉄道駅などの戦略的な地点での大規模検査と組み合わせれば、病院の過密化を防ぎ、ソーシャルディスタンスの規則を緩和する助けにもなり得ます。
現在、そのようなツールは実用化されていませんが、ニューヨーク大学の研究者グループが現在、類似のものに取り組んでいます。それでも、この思考実験を続けて、人工知能に伴うガバナンス上の課題と、危機のさなかに説明責任を果たすための監査が重要である理由を考えてみましょう。
デューデリジェンスは、適切な問いを立てることから始まります。
この仮定上のアプリのような新たな技術的ソリューションに直面したリーダーは、主に3つの問いを立てなければなりません。第一に、アプリの信頼性は確保されているか。第二に、安全か。最後に、公平か。これらの問いから、信頼性、安全性、公平性をどう定義するのか、また何を指標として評価するのかなど、数多くの関連する問いが生まれます。
理想的には、これらの問いへの答えによってAIシステムを監査できるようになるはずです。つまり、研究委員会や任命された適格な第三者が、適切な文書を調べて、そのシステムが信頼に足るかどうかを評価できる必要があります。
残念ながら、実際にはそうした文書へのアクセスや内容の確認が難しい場合があります。主な課題は、機械学習の一分野であるディープラーニング（DL）と、AI業界の成熟度に関係しています。
機械学習は強力である一方、限界もある統計的手法です。
ディープラーニング（DL）の本質は、複数層のニューラルネットワークを用い、サンプルデータに基づいてパターンを分類する統計的手法です。人間や機械が生成するデータの指数関数的な増加を活用し、DLシステムはさまざまな分野、特にコンピュータービジョンと音声認識で目覚ましい進歩を遂げてきました。
こうした成果は重要な点で目覚ましいものの、限界もあります。たとえば、ディープラーニングのシステムは非常に不透明であることで知られています。実際、その論理を平易な言葉で解釈するのは容易ではありません。どの患者に集中治療が必要かを決めるといった重大な意思決定を支援するため、自動化システムに依存するのであれば、そのシステムは理解できるものでなければなりません 医師と患者の双方にとって理解可能である必要があります。実際には、医師と患者が意思決定プロセスに参加できるよう、アプリの計画、設計、開発に両者の視点を取り入れる必要があります。
さらに、データはDLの学習プロセスの中核です。DLの知識は主に、学習用データセット（通常はラベル付きデータ）で特定されたパターンから得られます。これらは予測モデルの学習に使う初期の臨床データです。その結果、プライバシーとデータの完全性に関する課題が生じます。正確なラベル付き臨床データを維持し、保護するのは非常に困難です。
AIサービスの文書化には、標準化されたプロセスがありません。
より根本的には、AIを評価する際の「適切」とは何を意味するのでしょうか。学習用データセットに関する情報でしょうか。性能特性や潜在的な落とし穴を含む、モデルの説明でしょうか。バイアス緩和策を組み込んだ包括的なリスク評価フレームワークはどうでしょうか。
この問いへの対応が特に難しい理由の一つは、現在、AI業界のコミュニティにAIシステムを文書化する標準的なプロセスがないことです。透明性と説明責任を確保するため、設計文書、性能試験、サイバーセキュリティのプロトコルなどを含むプロセスを長年確立してきたソフトウェア業界とは異なり、AIの実務者は、どのようなプロセスが必要かをまだ模索しています。標準化されたプロトコルがないことは、この分野がまだ若いことを示すとともに、その若さを表しています。
今後の道筋
重大な結果を伴う分野でAIの導入が急速に進むなか、「監査フレームワークを通じて、AIの信頼できる利用をどう確保するか」という問いは、業界だけに委ねるには重要すぎます。一方で、対応は想定されるユースケースによって大きく異なり、導入されるシステムを十分に理解する必要があるため、政策立案者だけで解決することもできません。
満足のいく答えを出せるのは、真にマルチステークホルダーによるプロセスだけです。世界経済フォーラムでは、この目標に向けて具体的な一歩を踏み出しました。政策立案者、市民社会、産業界、学術界から成るコミュニティを構築し、AIシステムの監査フレームワークを共同で設計しています。
世界的なリスクに耐え、そこから回復する力を世界にもたらす、実質的に監査可能なCOVID-19患者向けAIを築けるのは、私たちが力を合わせたときだけです。
