AIは世界中の取締役会やCxO層で熱い議論のテーマとなっています。
AIシステムを導入する際に、企業が直面するサイバーリスクに気づいていない経営者は少なくありません。
AI技術の導入や利用による利益を最大化するには、経営者は強固なサイバーリスク・ガバナンスの仕組みを推進する必要があります。
AIが世界の投資判断に関する取締役会の議論を支配するなか、AIシステムの導入時に企業が直面するサイバーリスクやデジタルリスク、そしてそれらのリスクを軽減するために採るべき戦略に、経営者は気づいていないことが多いのが現状です。
競争力を維持するため、組織はAIをビジネスを可能にする手段として活用するなど、イノベーションを推進しなければなりません。ただし、関連するサイバーリスクに対処せずにAIの機会だけに注目すると、組織は脆弱なままとなります。AIソリューションの総コストを、セキュリティ関連の費用を含めて検討することが不可欠です。サイバーリスク責任者は、イノベーションを阻害するのではなく、セキュリティ・バイ・デザインの統合、適切なサイバーセキュリティ管理策の一式の導入、そしてビジネス価値を守るためのこれらコストの計上の重要性を強調すべきです。
したがって、サイバーリスクのエクスポージャーを把握し、適切な管理策を導入する包括的なアプローチは、AIの恩恵を余すところなく実現するうえで極めて重要です。
AIセキュリティのリスクとコスト
AI技術は組織の攻撃対象領域を広げ、学習データの汚染やプロンプトインジェクションといった新たなリスクをもたらします。さらに、これらの技術は既存のリスクの新たな経路も生み出します。たとえば、学習用およびテスト用データベースの規模は、大規模なデータ漏えいのリスクをもたらします。
もう一つの検討事項は、従来のサイバーセキュリティの特性である機密性、完全性、可用性に加え、AIによるサイバーリスクを評価するには、モデル出力の信頼性や説明可能性などの要素を考慮する必要がある場合がある、という点です。
ビジネス界では、サイバー攻撃によって物理的、金銭的、または風評上の損害が生じうることは、すでに理解されています。AIは、既存のサイバー被害の分類体系と比べて、組織に新たな種類の被害をもたらすわけではありません。むしろ既存の被害を増幅させ、それらの被害が発生する可能性や深刻度を高めます。
企業ごとの状況要因は、サイバーリスクに影響を与え、その要因を左右するため、AIのリスク軽減戦略を策定する際には考慮する必要があります。AI技術と業務プロセスの関係は、リスクに明らかに影響します。重要な業務プロセスにAIを活用している組織や、重要インフラに関わる組織は、業務の中断による影響が大きいため、より高いサイバーリスクに直面します。AIシステムの自律性の度合いもリスクに影響します。人による確認や相互抑制によって一部のリスクは軽減できますが、AIの導入拡大に応じて拡張可能なソリューションが必要になります。自律性の高いAIシステムは、それ自体が脅威の主体になることさえあり得ます。さらに、AI技術の出所や管轄地域も、リスク評価に影響を与えることがあります。
企業の属性も、リスクや軽減の機会に影響を与えることがあります。これには、企業の規模、初期段階の技術導入に対する意欲、AIサプライチェーンにおける立ち位置（AIモデルを開発し供給するのか、製品やサービスの利用者なのか）、そして企業が置かれている国の状況（関連する規制やサイバーセキュリティ市場の有無を含む）が含まれます。
AI導入について情報に基づいたリスクベースの意思決定を行うには、そのメリットと潜在的な害を明確に理解することが必要です。現在、AIの真の利点は必ずしも明確ではありません。ユースケースは発展途上で、しばしば過度な期待の喧伝に後押しされており、正確な費用対効果分析を難しくしています。
管理策への包括的アプローチが重要
AI導入を保護するためのツール市場は拡大していますが、多くの管理策はまだ利用できないか、導入が困難です。AIセキュリティツールの大半はユースケースに特化しています。これは、AIモデルの機能、学習、出力が多様であることを反映しており、管理策の普遍的な基準を確立することを困難にしています。
組織には多様なAIセキュリティ管理策が必要です。これには、出力の説明可能性と追跡可能性のためのツール、AIモデルのセキュリティ監視、レッドチーミングのガイドライン、侵害されたシステムの復旧ツール、廃止プロセス、そして（「キルスイッチ」に相当する）ロールバック手順が含まれます。AIの出力は予測が難しいため、AIシステムには従来のソフトウェアよりも多くの人的監視が必要となる場合もあります。
サイバーセキュリティの他の分野と同様に、管轄地域ごとの規制要件の相違は、複数の管轄地域にまたがる組織にとって、すでにコンプライアンス上の課題を生んでいます。AI導入に関連するサイバーリスクを軽減するために必要な管理策の基準については、まだ標準化されていません。
効果的なリスクコミュニケーションの実施
サイバーリスク責任者は、AIセキュリティのリスクを事業部門に効果的に伝えることに注力しなければなりません。これは投資要請を得るうえで重要となるからです。経営者は、これらのリスクが事業上の優先事項とどのように関連するかを理解する必要があります。したがって、組織のリスクエクスポージャーの把握を支援するツールキットを開発し、その情報を関係者に伝えるための明確なガイダンスを併せて提供することが不可欠です。
現在のAI導入拡大は、サイバーリスク責任者にとって大きな好機です。組織がこの技術からビジネス価値を引き出すとともに、関連するサイバー脅威から事業を守る手助けができるからです。
世界経済フォーラムのサイバーセキュリティセンターは、グローバル・サイバーセキュリティ能力センター（オックスフォード大学）と連携し、「AIとサイバー：リスクと報酬のバランス」イニシアチブを主導しています。このイニシアチブは、AI導入の文脈におけるサイバーリスクと機会に関して、世界のリーダーの戦略と意思決定を方向づけることを目的としています。この取り組みは、AIガバナンス・アライアンス（2023年6月に発足）と協働して進められており、人工知能システムの責任ある設計、開発、展開に関するガイダンスの提供を目指しています。その活動の詳細はこちらをご覧ください。
