リーダーは、機密データを保護し、レジリエンスを確保し、責任あるイノベーションを可能にするために、人工知能（AI）導入のあらゆる段階にサイバーセキュリティを組み込まなければなりません。
リスクとリターンのアプローチは、脆弱性を特定し、リスクを軽減し、ステークホルダーの信頼を強化することで、AI導入を組織の目標に整合させます。
AI専門家、規制当局、政策立案者による多様なステークホルダー間の協働は、AIがもたらす脆弱性に対処し、AI技術への信頼を築くうえで不可欠です。
デジタルファースト時代において、人工知能（AI）システムの活用は、組織のイノベーションと業務効率の要となっています。しかし、リーダーが変革を推進する中でも、サイバーセキュリティは最優先事項であり続けなければなりません。
AIシステムも、敵対的攻撃、データポイズニング、機密性の高いアルゴリズムへのハッキングなどの脆弱性から免れることはできません。リーダーは、AIを統合することで組織の攻撃対象領域が拡大することを認識しなければならず、堅牢なサイバーセキュリティ対策は譲れないものとなります。
2024年、世界経済フォーラムのサイバーセキュリティセンターは、オックスフォード大学のグローバル・サイバーセキュリティ能力センター（オックスフォード大学）と連携し、AIとサイバー：リスクとリターンのバランスイニシアチブを通じて、AI導入に関するサイバーリスクと機会について、世界のリーダーの戦略と意思決定を導くことを目指しました。
この研究は、白書『インテリジェンス時代の産業 ― 人工知能とサイバーセキュリティ：リスクとリターンのバランス』として結実し、2025年1月に発表されました。本書は、AI導入に伴うサイバーリスクを管理するためのガイドです。セキュリティとレジリエンスを念頭に置いてAIに投資し、イノベーションを進めることで、新たな成長機会を活かすリーダーを後押しします。
AIの潜在能力を最大限に引き出すには、関連するサイバーリスクと必要な緩和策について包括的な理解を築くことが不可欠です。
サイバーセキュリティが不可欠な理由
『グローバル・サイバーセキュリティ見通し2025』によれば、組織の66％が、今後1年間でAIがサイバーセキュリティに大きな影響を与えると予想しています。しかし、導入前にAIシステムのセキュリティを評価するプロセスを持つのは、わずか37％です。
このギャップは、組織が関連するサイバーセキュリティリスクを十分に評価・対処しないままAIシステムを導入し、環境内の脆弱性を露呈させるおそれがあるというリスクを浮き彫りにしています。
AIシステムがデータ侵害、アルゴリズムの操作、その他の敵対的活動に対して脆弱なままであれば、重大な業務上および評判上の損害につながりかねません。サイバーリスクを評価し軽減することで、リーダーはAI導入を組織の目標とレジリエンスの必要性に整合させることができます。
さらに、AIモデルを支えるデータは、多くの場合、独自情報または機密情報であり、その漏えいは金銭的損失や罰金につながるほか、組織の評判にも悪影響を及ぼしかねません。安全なデータパイプラインの確保から厳格なアクセス管理の導入まで、サイバーセキュリティはAIのライフサイクルのあらゆる段階に組み込まれるべきです。
これらのリスクに対処するための明確なガイドは、適切な意思決定を行い、戦略的な選択が安全かつ規制に準拠したものとなることを確保するうえで不可欠です。これはまた、ステークホルダー間の信頼を強化し、持続可能で責任あるAI主導の成長を可能にします。
リーダーは、サイバーセキュリティをイノベーションの障壁ではなく、持続可能な成長のための基礎的な柱とみなす企業文化を率先して推進しなければなりません。上級リスク責任者もまた、AI関連のサイバーリスクに対する監督と統制を実施し、それらを積極的に管理するうえで重要な役割を担っています。
AIの取り組みを堅牢なサイバーセキュリティの枠組みと戦略的に整合させることは、顧客から投資家に至るまでのステークホルダーに対し、デジタル資産を保護するという組織のコミットメントを確信させることにもつながります。
これらの点を優先することで、経営トップは自社を守るとともに、信頼され、レジリエンスがあり、先見性を備えた企業として位置づけることができます。
リスクベースのアプローチ
安全なAI導入には、リスクベースのアプローチをとることが不可欠です。組織は、AIがもたらす機会に照らして、AIが持ち込みうる潜在的な脆弱性やリスクを評価し、事業への悪影響の可能性を評価したうえで、これらのリスクを軽減するために必要な統制を特定しなければなりません。
このアプローチにより、AIの取り組みが組織全体の事業目標と整合し、リスク許容度の範囲内にとどまることが保証されます。
AI導入全体へのサイバーセキュリティの組み込み
すべての組織は、AI導入のどの段階にあるかにかかわらず、AI関連のサイバーリスクに対処すべきです。すでにAIを活用している企業は、その導入状況を把握し、後付けのセキュリティソリューションを適用すべきです。
その他のケースでは、AI導入が業務および事業目標に整合しているかを判断するために、リスクとリターンの分析が必要となる場合があります。このアプローチは、設計段階からのセキュリティを促進し、AI導入がイノベーションとレジリエンスに整合することを保証します。
企業全体の視点を持つ
AIシステムは単独で存在するものではありません。組織は、AIシステムを取り巻く業務プロセスやデータフローが、サイバーセキュリティ障害の影響をどのように軽減できるかを検討しなければなりません。
これには、統制をより広範なガバナンス構造や全社的リスク管理プロセスに統合することが含まれます。
協働による責任あるイノベーション
AIの恩恵を活用するために、組織はリスクとリターンの分析およびサイバーセキュリティの優先順位付けに関して、多様なステークホルダーによるアプローチを採用しなければなりません。これにより、レジリエンスが確保され、投資が守られ、責任あるイノベーションが支えられます。
AIとサイバーセキュリティの専門家、規制当局、政策立案者の間の協働は、ツールの整合、ベストプラクティスの共有、説明責任の確立のために不可欠です。この共同のアプローチにより、AIがもたらす脆弱性に対処しつつ、信頼と確信に満ちたイノベーションを促進することができます。
本研究は、次の団体と協力して取りまとめられました：AIガバナンス・アライアンス ―2023年6月に発足― は、人工知能システムの責任ある設計、開発、導入に関する指針を提供するものです。その活動の詳細はこちらでご覧いただけます。
本記事への追加の寄稿者は、ルイーズ・アクソン（オックスフォード大学グローバル・サイバーセキュリティ能力センター研究員）、ジョアンナ・ブーカート（世界経済フォーラム サイバーセキュリティセンター コミュニティリード）、ジェイミー・ソーンダーズ（オックスフォード大学オックスフォード・マーティン・フェロー）です。
