人工知能（AI）は、リスク管理とコンプライアンスを急速に変えつつあります。
しかし、AIは、バイアスの増幅や不透明な意思決定の発生など、企業にとって新たな種類のリスクを生み出す可能性があります。
既存および潜在的なリスクに対処するには、統合型の監査ソフトウェアソリューションが必要です。
人工知能（AI）は、業界を問わず多くの企業にとって不可欠なものとなっています。誇大宣伝はあるものの、AIはビジネス価値を生み出しており、その結果、世界中で急速に導入が進んでいます。昨年、マッキンゼー・グローバル・サーベイは、「標準的なビジネスプロセスにおけるAIの利用が、前年比でほぼ25％増加した」と報告しました。AIがもたらす変革の力は、すでに顧客サービス、ブランド管理、業務、人材・組織文化、さらに最近ではリスク管理やコンプライアンスを含む、さまざまな機能に影響を及ぼしています。
この最近の動きは、誰にとっても驚くべきものではありません。リスク管理の本質は、企業が潜在的なリスクを特定し、監視し、軽減する能力を指します。一方、コンプライアンスのプロセスは、企業が法的、内部的、倫理的な境界の範囲内で運営されることを確実にするためのものです。これらは情報集約型の活動であり、大量のデータを収集、記録、そしてとりわけ処理する必要があります。そのため、AIにおける支配的なパラダイムである深層学習に特に適しています。
実際、複数の層を持つニューラルネットワークを用いてパターンを分類するこの統計的手法は、リスク管理およびコンプライアンスにおける分析能力の向上に効果的に活用できます。
AIシステムが新たな種類のリスクを生み出す
しかし、初期の経験から、AIは企業にとって新たな種類のリスクを生み出し得ることが示されています。採用や与信の分野では、AIが女性や少数派の出身の応募者に対する過去のバイアスを増幅させる可能性があります。医療分野では、ブラックボックス問題のために不透明な意思決定につながる可能性があります。これらはほんの一例に過ぎません。こうしたリスクは、数億個ものパラメータを含み得る深層学習モデルが本質的に持つ複雑性によって増幅されます。このため企業は、内部の仕組みをほとんど把握していないサードパーティ・ベンダーのソリューションを調達する傾向があります。
その結果、経営幹部は根本的な課題に直面しています。それは、扱いにくいリスクやコンプライアンス上の問題を生じさせることなく、さまざまな事業機能におけるAIの恩恵を最大化するにはどうすればよいか、という課題です。
以前、当社はAIシステムのリスクを特定し軽減するためのリスク・便益評価フレームワークの導入を提唱しました。しかし、そうしたフレームワークは状況依存性が高く、高度な学際的専門知識と多様な利害関係者の協働を必要とします。すべての組織がそうした人材を確保できるわけではなく、必要なプロセスを備えているとも限りません。さらに、ある企業が、ユースケースごとに異なるAIソリューションを導入しており、それぞれが別個のフレームワークを必要とすることは、十分に想定されます。こうしたフレームワークを設計し、管理し続けることは、最も経験豊富なリスクマネージャーであっても、すぐに不可能な作業となりかねません。このような状況において、直感的な対応策は、慎重に進めることや、潜在的な規制違反を避けるために低リスクの用途に限ってAIを利用することかもしれません。しかし、これは一時的な解決策にしかなり得ません。AIがビジネス成長にもたらす計り知れない可能性を考えると、長期的にはこれは自ら成長を阻む戦略となるでしょう。
では、どのような現実的な代替策があるのでしょうか。
AIシステム向けエンタープライズ監査ソフトウェアの必要性
当社は、企業が有害なリスクを軽減しながら、AIソリューションの恩恵を最大化することは、部分的に適切な監査ソフトウェアを活用することで実現できると考えています。金融からヘルスケアに至るまで、各業界において、企業のプロセスが法的および業界標準を満たしていることを確認するための監査ソフトウェアは、すでに数多く存在しています。
今求められているのは、AI関連のリスク管理を含む、統合型の監査ソリューションです。このようなソリューションには、次の3つの中核機能が必要です。
1. 企業が使用するすべてのAIソリューションの動作を文書化する。これは、AIソリューションを監視し、その特徴量の分布を分析して統計的な依存関係を調査することを意味します。採用のためのAIソリューションを例に考えてみましょう。どの特徴量（例：出身大学、経験年数、性別など）が推奨結果に最も大きな影響を与えているかについて、明確に把握しておく必要があります。
2. 定められた一連の要件への準拠を評価する。モデルの結果（すなわち、採用モデルが特定の推奨を行っている理由）を把握したら、法律（EUの非差別法など）から組織のガイドラインに至るまで、さまざまな基準への準拠を評価することが重要です。
3. 部門横断的な協働を可能にする。この監査ソフトウェアは、適切な情報を提供することで、特にAIソリューションを管理するリスクマネージャーとデータサイエンティスト間の、多様な利害関係者による協働を促進するべきです。例えば、リスクマネージャーは、どの要件が満たされているか、または満たされていないかについて、非技術的な説明を必要とします。一方、データサイエンスチームは、モデルの性能特性により関心を持つ場合があります。コンプライアンス違反が特定された場合、監査ソフトウェアは、技術チームに対して適切な是正措置に関する推奨事項を提供するべきです。
世界経済フォーラムは第四次産業革命に関して何に取り組んでいるのか。
先端技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集し、新興技術とその現実世界への影響を理解するための取り組みを進めています。
センターは、協働と実験を可能にすることで、パートナーが研究によるイノベーションを、地球規模の共通課題に対応する実践的な応用へと転換することを支援しています。
AIシステム向けにこのような監査ソフトウェアを開発することは、AIに関連するリスクへの対応に大きく貢献するでしょう。しかし、責任あるAIを完全に自動化することはできません。すべての既存および潜在的なリスクを軽減するために満たすべき普遍的な要件リストは存在しません。必要な項目は、状況や業界分野によって左右されることが多いためです。その結果、リスクマネージャーと、その判断力は引き続き不可欠であり続けます。AIの台頭は、彼らが最も得意とする業務、すなわち部門を越えて同僚と関わり、健全なリスク管理方針を設計し実行することに集中できるようにするだけです。
