新型コロナウイルス感染症の危機は、政府や企業のリーダーシップに新たな、そして特有の要求を突きつけている。
人工知能／機械学習ツールを利用する企業や機関は、中長期にわたって消費者の信頼を維持するため、実社会で機能するガバナンス慣行を策定する必要がある。
新型コロナウイルス感染症の危機により、現実の環境でリアルタイムに影響を及ぼす人工知能／機械学習（AI/ML）の急速な開発と導入が、注目を集めている。ウイルスの有無にかかわらず、技術の進歩（世界的な人口動態の大きな変化や気候変動とともに）によって、これからの10年が変革と混乱の時代になることは確実だ。しかし、AI/MLがすでに新型コロナウイルス感染症をめぐる状況の中心にあることは明らかであり、こうした技術を活用する際には、関係者による協調的な評価、熟慮されたガバナンス、慎重な取り扱いが求められる。したがって、この危機は政府や企業のリーダーシップに、新たな、そして特有の要求を突きつけている。
新型コロナウイルス感染症の拡大を抑えるうえで、最も効果的で即時性があり、誰もが実践できる手段は、基本的に「ローテク」なものだ。可能な限り、身体的距離を保ち、自宅で過ごし、手を洗い、健康を維持する。祖母たちも誇りに思うだろう。しかし、こうした対策を補完し、私たちがこの危機をどれだけうまく、どれだけ早く乗り越えられるかを大きく左右するのが、AI/MLを活用したツールや手法である。その応用例はあまりに新しく、画期的で、名前さえまだ定まっていないものもある。その可能性やリスクを評価・管理する方法はもちろん、得られた成果をより広範な戦略や人間社会の制度に組み込む方法も、まだ分かっていない。
コロナウイルスの感染拡大に対し、世界経済フォーラムはどのように取り組んでいるのか。
極端に単純化すれば、AI/MLモデルは大量の過去データを使って、将来について精度の高い予測を生み出す。こうした予測や洞察は、その定義上、人間の情報処理能力を超えており、それは強みにも弱みにもなり得る。
予測の技術的な正確さと質は、a）モデルの学習に用いる基礎データの質、網羅性、偏りのなさ、b）予測の生成に用いるデータ、c）アルゴリズム自体の設計と堅牢性、そしてd）モデルが実社会のデータや影響に直面した際に何が起こるかによって決まる。
人間がこうした予測を信頼してよいかどうかは、人々がどれだけ適切に、a）技術の現時点での能力に合わせてユースケースを定義、選定するか（例えば、AI/MLツールが解決しようとする問題に適しているか）、b）意図的・非意図的な偏りや誤り、その他の悪影響を避けるようモデルを設計するか、c）予測を信頼することによる具体的な影響（ユースケースごとに異なる）を理解し、文脈に照らして捉えるか、そしてd）モデルの機能を継続的に積極監督することに取り組むかによって左右される。
言い換えれば、AI/MLツールの技術的側面は全体の半分にすぎない。もう半分は、私たち人間がそれらを構築し、利用し、ガバナンスを行うことである。そしてここに、現在の新型コロナウイルス感染症の危機が、重要な機会と課題の両方をもたらしている。長期的な視点でAIの導入を急ぐことで、政府や企業のリーダーシップには、強力な初期段階の技術をどのように設計し、管理するかに注意を払うことも急務となっている。
人権と価値をどう守るかについては、活発な議論が続き、規制に向けた初期の取り組みも始まっている。しかし今、企業や政府は、こうしたツールの利用方法とその影響について、すでに意思決定を進めている。それにもかかわらず、内部の品質や外部での利用に関する共通基準も、AI/MLのさまざまな用途に一律に適用できる解決策も、まだ存在しない。そのため、AI/MLツールを利用するすべての企業や機関は、より広範な使命と急速に変化する市場基準の両方を反映した、ユースケースごとの実践的なガバナンス慣行を策定する必要がある。
より広範な戦略や監督業務の一環として、こうした技術のガバナンスを優先しなければ、顧客や社会からの信頼を不必要に失い、業務の混乱や法的責任、信頼と評判の危機を招くおそれがある。AI/MLツールを利用する企業や機関が、利益とともにリスクを管理する計画や戦略を持たないことは、いずれ考えられなくなるだろう。しかし、患者や医療従事者、そして私たち全員に直接影響する環境で、こうしたツールの利用を公衆衛生上の危機が加速させている今、その取り組みを始める必要がある。
新型コロナウイルス感染症と、そこから生じる問い
今日：医療と医薬品の発見を加速する
こうしたツールの質や可能性には差があるのは確かだ。しかし、病気に関する知見や医薬品の開発を加速するために、すでにAIが活用されている以上、安全策の整備も加速させるべきである。
ガバナンス上の大きな課題の一つは、こうしたツールの信頼性、安全性、公平性を評価することだ。多くの場合、適切に設計された監査の枠組みがあれば、リーダーはシステムの信頼性を評価できる。しかし、これは実際には難しい場合がある。明日：人口管理を可能にし、感染拡大を抑える
新型コロナウイルス感染症の患者と接触者を追跡することは、感染拡大を抑え、最終的には移動や経済活動への制限を緩和する取り組みの要と広く認識されている。シンガポールや韓国で大きな効果を上げた、AI/MLを活用する接触追跡ツールは、何らかの形で今後、EUや米国にも導入される可能性が高い。
政府と企業はプライバシーと有効性の両立を目指して協議を進めているが、どちらか一方を選ばなければならないと考えるのは誤った二者択一である。このバランスをどう実現し、維持するかは、技術の機能に何を求めるかだけでなく、開発者、データ管理者、政府、そして互いに何を求めるかにも左右される。個人データの収集と保護に加え、そのデータをどの目的で、どれほどの期間、どの他のデータセットや技術と組み合わせて利用するのか、市民の自由を守るためにどのような安全策を設けるのかも、今後の重要な論点である。他の人々が指摘しているように、適切なAIガバナンスの枠組みを整えることは、ソリューション自体の有効性に不可欠である。明後日：経済の再始動、資源の最適化、あらゆる活動の遠隔化
特定の疾病管理にとどまらず、新型コロナウイルス感染症後の経済も、再始動にあたってAI/MLツールに頼る必要がある。従業員と仕事の機会のマッチングや適性評価から、在庫を含むサプライチェーンの再構築、何百万人もの学生への教育の提供と個別最適化まで、幅広く活用されるだろう。企業が効率性と柔軟性の向上、コスト削減を重視して事業を再開するなか、導入への圧力は高まる。
興味深い問いの一つは、過去のデータが新型コロナウイルス感染症後の予測にどれほど役立つかである。私たちが経験している大きな変化の影響を企業や政府が把握し、必要な調整を間に合うように行うには、AI/MLの処理能力が鍵となるだろう。同時に、誤りや過去の慣行への過度な依存がもたらすリスクは、特に高い。これは、偏り、制御不能な結果、その他の過小・過剰な性能に関する既知のリスクに加わるものだ。さらに、こうしたツールを、人間の意見や経験、文脈を取り入れた熟慮あるシステムに組み込む必要性も高まる。
AI政策を実践へ：長期的な成功につながるAI導入の管理
これらすべてによって、企業や政府の上級リーダーには、こうした技術のユースケース、その実際の（期待上のものではない）能力、そして組織全体のレジリエンスを確保するために、人間の分析能力を超えるよう設計されたツールをどのように管理すべきかを理解することが、いっそう強く求められている。こうした技術を使うのが本当に適切なのはどのような場合か、誰が使うのか、そのデータはどう管理されるのか、誰が責任を負うのか。チームは開発、評価、運用に向けてどのように訓練されるのか。継続的なコンプライアンスはどのように促進され、測定されるのか。
「いずれ、人工知能／機械学習ツールを利用する企業や機関が、利益とともにリスクを管理する計画や戦略を持たないことは、考えられなくなるでしょう。」
カレン・シルバーマン、グローバルAI評議会メンバー、Latham & Watkins LLP元パートナー
パッケージ化された解決策も、一律に適用できる解決策もない。一般的なAI政策は数多くあり、その中には非常に優れたものもある。規制も視野に入っている。しかし今、企業や政府が直面している課題は、こうした原則をどう実務に落とし込むかである。そのためには、各企業や政府、ユースケース、技術に合わせて、綿密かつ慎重に取り組む必要がある。また、変化と課題が息つく間もない速さで続く状況に対応できるよう、設計しなければならない。
この取り組みの一部は、レジリエンスと長期的な存続可能性のためのガバナンスを促すAI/ML戦略や企業文化の醸成を視野に、取締役会レベルで監督するのが最適である。別の一部は経営陣が担うのが望ましい。戦略や文化に関する取り組みを支えながら、AI/MLツールやその他の先端技術の質と影響を判断するプロセスを実務に落とし込み、それらを組織の使命と整合させる役割である。いずれにしても、変化する環境で監督責任を果たすために必要な具体的経験をすでに持つ取締役会や経営幹部が少数ながらいるのであれば、新型コロナウイルス感染症後の世界に向けて、その経験を速やかに広げるべきである。同様に、この危機から真に回復するには、企業や機関が、こうした技術をいつ、どこで、どのように利用するのか（そして、いつ利用しないのか）を具体的に定めた戦略、方針、計画を策定する必要がある。
AI/MLによって、これまで知られていなかった解決策が、かつては想像もできなかった速さで実現している。これらの解決策は、現在の危機から回復するための鍵となる。さらに長期的には、私たちの働き方や互いとの関わり方、技術との関わり方、予測の立て方、データの共有方法、雇用する側・される側のあり方、そして私たちについて誰が何を知るかも変えていくだろう。期待できることは多く、より優れた診断や治療、感染拡大の抑制、より効率的で強靭な労働市場やサプライチェーンの実現を、誰もが後押しできる。回復が早まれば、その恩恵を共有できる。実践的で効果的なガバナンスに取り組むことで、長期にわたってその恩恵を維持できる。
