COVID-19は人々の行動を混乱させ、AIシステムに深刻な支障をきたしています。
AIシステムが稼働している状況を理解している分野の専門家は、COVID-19の危機がそのシステムに与えた影響を評価すべきです。
MIT Technology Reviewが先週報じたところによると、COVID-19の世界的流行の中で、多くのAIシステムが機能不全に陥っています。在庫管理からオンラインコンテンツの推薦まで、さまざまな用途のシステムが、本来の動作をしなくなっています。
今回の新型コロナウイルス危機の影響は、AIシステムの既知の限界を反映しています。すなわち、前例のない状況にうまく対応できないという点です。実際、2か月前に私は、この課題について警鐘を鳴らしました。COVID-19危機においてAIを活用することの難しさについてです。当時は、COVID-19の問題に対処するための新しいアルゴリズムを作ることの難しさに焦点を当てましたが、同じ問題は既存のAIシステムにも課題をもたらします。
したがって今こそ、自社で現在導入しているAIシステムを見直し、このCOVID-19の時代においても引き続き有効に機能するかどうかを評価すべき時です。
なぜAIに問題が生じているのでしょうか？
現在のAIシステムはほぼすべて、何らかの形の機械学習を利用しています。機械学習は、大量の学習データを分析することで機能します。学習データは通常、学習させようとしているタスクの過去の事例です（例：過去の在庫変動や、コンテンツのストリーミング行動の事例）。機械学習システムは学習データ内のパターンを見つけ出し、導入後はそのパターンを用いて新しいケースの予測を行います（例：来週の在庫需要はどうなるか、特定の新規ユーザーがどのコンテンツを楽しむか）。
「COVID-19のパンデミックのような急激な混乱により、アルゴリズムの一部ですらなかった全く新しい要因が、突然重要になる可能性があります。」
マティッサ・ホリスター
機械学習アプローチは、新しいケースが学習データの事例に類似している場合に適切に機能します。機械学習アルゴリズムは学習データ内の微妙なパターンを識別できるため、人間よりも速く、場合によってはより良い予測を行うことができます。しかし、新しいケースが学習データとは根本的に異なる場合、特に全く新しいルールに従わなければならない場合には、学習データのパターンはもはや予測の有用な根拠にはなりません。アルゴリズムの中には、新しい学習データを継続的に追加し、アルゴリズムを更新するよう設計されたものもありますが、大きな変化がある場合には、このような段階的な更新では不十分です。全く新しいルールを学習するには、機械学習アルゴリズムには大量の新しいデータが必要です。
学習データに関連する事例が不足しているだけでなく、当初の設計で考慮されていなかった新たな要因が重要になった場合にも、AIシステムは機能しなくなる可能性があります。AI開発者は、タスクに関連するすべての要因を見越して、学習データに含める情報を選択します。COVID-19のパンデミックのような急激な混乱により、アルゴリズムの一部ですらなかった全く新しい要因が、突然重要になる可能性があります。このような状況では、小さな調整から全面的な刷新まで、システムそのものを再設計する必要が生じます。
AIの問題を予測する
すべてのAIアルゴリズムが、COVID-19下でパフォーマンスの問題に直面するわけではありません。そのため、システムが影響を受けないことを期待するだけでも、あるいはパフォーマンスの低下がないか監視するだけでもよいかもしれません。しかし、より積極的なアプローチは、問題を予測し、それに対処するための戦略的な行動を取ることです。問題を予測するために、必ずしもAIの技術的側面を理解する必要はありません。むしろ重要なのは、分野の専門知識を持つ人材、すなわち、AIシステムが稼働している状況と、COVID-19の危機がそれにどのような影響を与えたかを理解している人材です。
分野の専門家は、AIシステムの2つの側面を検証すべきです。第一に、学習データの出所はどこか。その学習データは、現在でもどの程度関連性があるか。現在の状況は、アルゴリズムが特定したパターンが依然として関連性を持つほど、学習データの事例に十分類似しているか。
第二に、システムはどのような要因を考慮しており、その設計にはどのような因果関係に関する前提が組み込まれているか。現在の行動に影響を与えている新たな要因のうち、システムに欠けているものはあるか。
行動計画の策定
分析の結果、COVID-19のパンデミックがAIシステムに問題を引き起こす可能性があると判明した場合、いくつかの選択肢があります。
短期的には、人間による監視を強化する必要があるでしょう。COVID-19の時代において、私たち人間も世界がどのように機能しているかを理解するのに苦労していますが、ほとんどの場合、新しい状況への対応においてはAIよりも適切に対応できる能力を備えています。しばらくの間、人間が主導的な役割を担う必要さえあるかもしれません。例えば、Facebookは、ファクトチェック機関を活用して、COVID-19に関する誤情報の事例を最初に特定し、その後、AIシステムと組み合わせて、各事例の多数のバリエーションにフラグを立てています。これがなければ、ファクトチェックの能力は圧倒されてしまうでしょう。AIシステムにCOVID-19の誤情報の事例がより多く提供されるにつれて、AIはパターンを学習し、新しい事例を自ら認識できるようになっていきます。
同様に、学習データの不足が自社システムの中心的な問題である場合は、現在の状況に適合する新しい学習データを収集することを検討できます。現在のモデルでは考慮されていない、新たに関連性のある要因を特定した場合は、それらの要因を考慮に入れるためにAIシステムを再設計する必要もあるでしょう。
ただし、これらの対応は、状況が再び急激に変化すると予想される場合には、費用対効果が見合わないかもしれません。フェイクニュースの特定を例にとると、COVID-19の誤情報は今後、AIシステムが検出を学習する価値があるほど緩やかに進化すると合理的に予想できるかもしれません。この誤情報の重大な影響と、すでに生成されている膨大なデータ量も、このような再設計を価値あるものにしています。一方、在庫AIシステムに影響を与えた急激な消費の変化が、モデル化に時間と費用をかける価値のある、安定した「新常態」を表しているかどうかは明確ではありません。
より大きな教訓
破壊的技術としての評判とは裏腹に、AIは混乱への対応が得意ではありません。COVID-19のパンデミックはこの問題を浮き彫りにしましたが、これは継続的な弱点です。緩やかな変化であっても、蓄積されると、AIシステムを脅かす大きなずれにつながる可能性があります。したがって、定期的な監視と見直しが必要です。ただし、技術的な詳細にとらわれるのではなく、AIシステムの監視において最も重要なステップは、変化する状況を理解することです。状況が緩やかに進化している場合でも、不安を伴うほどの速さで変化している場合でも、システムがその状況に適合し続けていることを確認してください。
