サイバーセキュリティは、急速に進化する脅威の状況を背景に、AIの中核的な応用分野の一つである。
今後1年の間に、AIはサイバー脅威の検知とリスク評価を変革するだろう。
責任あるAI活用によるサイバーセキュリティには、人間の関与を続けることが不可欠となる。
過去数十年の間に、インターネット、クラウド、AIという3つのイノベーションがデジタル世界に革命をもたらした。いずれの技術も、組織がそれを理解し、最も生産的かつ効果的な形で適応するまでには時間を要した。その意味で、AIはまだ黎明期にある。しかし、わずか1年余りの間に、生成AIは限定的でほとんどが実験的な応用段階から、急速に不可欠な中核技術へと移行しつつある。
2023年時点で、AIに特化した企業は6万社以上存在しており、いずれもこの好況に乗ろうとしている。これらの組織の多くは技術市場全体に良性の影響を与えるだろう一方、他の組織は、技術が社会や事業に組み込まれる方法を大きく簡素化、加速、強化する機能を導入すると見られる。クラウドと同様に、AI自体が革命をもたらすわけではない。重要なのは、無秩序で広範な利用ではなく、目的を持った応用である。インターネットやクラウドと同様に、AIへの迅速な適応と正しい応用方法を見出した組織は、その使命の達成において大きな優位性を得るだろう。
AIの最も重要な応用分野の一つであり、それゆえ継続的な投資の大きな機会となるのが、サイバーセキュリティの領域である。脅威の状況は広範かつ複雑で、急速に進化している。セキュリティチームは、フィッシング攻撃、ランサムウェア、侵入の試みといった、ますます洗練された攻撃の波を繰り出す、執拗な悪意ある攻撃者や国家レベルの主体と対峙している。2023年には、世界のサイバー犯罪による被害額は、推定で8兆ドルに達した。
AIが組織の攻撃対象領域を必ずしも拡大するわけではないが、既存の攻撃対象領域をより脆弱にし、攻撃者の生産性を加速させる。最近実施された最高情報セキュリティ責任者（CISO）を対象とした調査では、70%が、AIは防御側よりも攻撃側に優位性を与えていると考えていることが明らかになった。
生成AIの応用により、フィッシング攻撃がより説得力を持ち、洗練されたものになり、攻撃の規模と効率が高まり、防御側が人や資産を守ることがさらに困難になっている状況がすでに見られる。これは、AIを用いて欺瞞的なメールの翻訳を作成し、攻撃者が事実上、地球規模で思いのままに活動を拡大できるようにする事例にも及んでいる。分散化と大規模化が、最も大きな問題をもたらしている。
セキュリティの回復力のためにAIを活用する
増大する攻撃への解決策は、AIの的を絞った目的志向の応用にある。政府機関と産業界のリーダーは、この困難な状況に対抗するため、セキュリティチームの有効性と効率性を高めるべく、AIを活用したソリューションや手法を迅速かつ慎重に適用しなければならない。同じCISO調査では、35%が、マルウェア分析、ワークフローの自動化、リスクスコアリングを含め、サイバー防御のためにすでにAIを試験的に導入していると回答した。
私は基本的に、AIが世界最大かつ最も複雑な組織がデジタルシステムを安全かつ信頼性の高い状態に保つ方法を変革すると確信している。今後1年の間に、AIが異常を自動的に検知し、予測モデルを活用してセキュリティチームが情報を整理し、パターンを見出し、脅威に優先順位を付けるためのより良い手段を提供するなど、多大な価値をもたらすのを目にすることになるだろう。さらに、リスクに関する知的な評価に基づき、最も必要とされる箇所に行動を推奨し、利用者の注意を向けさせることもできるだろう。
組織のサイバーセキュリティ戦略にAIの基盤を組み込むことは、デジタル面でのレジリエンスを高める歩みにおいて極めて重要となるだろう。これは、事業内でAIを採用し実質的な効果を生み出す最初のフロンティアの一つになる可能性が高い。社会がデジタルサービスに依存する度合いは今後数年にわたってさらに高まるため、デジタルシステムの安全性と信頼性の確保に一層の重点を置くことは、市民と消費者からの最低限の期待となっており、今がまさに重要な局面である。混乱に満ちた世界でこれらの期待に応え続けるため、組織は、その負担を分担するうえでAIが重要な役割を果たすことを期待せざるを得なくなるだろう。
責任があり、倫理的で、目的に適うこと
世界中の産業と政府には、システムやサービス全体にAIを統合し、成果を高め、進歩を推進する機会が豊富にある。しかし、リーダーは、同等に豊富な戦略と責任が伴っているかどうかについて、冷静に考える必要がある。AIの責任ある倫理的な利用は極めて重要であり、その出発点は透明性にある。Splunkにおいては、これはAIシステムとデータの利用が、顧客やステークホルダーにとって説明可能で、透明性が高く、理解しやすいものでなければならないことを意味する。また、AIシステムは設計上、偏りがなく、個人及び組織のデータを尊重するものでなければならない。
また、特定の課題群を解決するために目的に適ったものでなければならない。潜在的な問題を検知し、その修復を支援する能力を向上させるための機械学習の利用を考えてみよう。これは、この技術の即時的かつ価値の高い応用である。AIが真に有意義でプラスの影響をもたらすためには、より強靭なデジタル世界を実現するためにAIをどこに適用できるかについて、極めて明確かつ意図的であらねばならない。
人間の関与を維持する
最後に、AIは人間の意思決定を加速させるものと考えるべきであり、 代替するものではない点に留意することが重要である。AIは誤りを犯しやすく、人間を完全に代替するための感情的な文脈、人間の理解、常識を欠いている。今後の道筋は、人間が関与し続けるアプローチでなければならない。AIが人間の意思決定を支援するのであり、それを支配するものであってはならないことが不可欠である。
出発地から目的地まで乗客を運ぶ航空機の自動操縦だけに全面的に頼ることを、我々がしない（すべきでない）のと同様に、サイバーセキュリティへの備えと対応の責任をAIに委ねることはできない。世界の労働力におけるサイバーセキュリティの専門知識は、これまで以上に不可欠であり、人間の関与を維持することは、最良の機会を表している。技術は、サイバー脅威の拡大と進化に対応する能力を我々に与えるとともに、AIがまだ対応できない、文脈に応じた人間の強みを同時に活用するものである。
サイバーセキュリティの状況は、新たなビジネスや社会へのリスク、そして組織がデジタルシステムの回復力を欠く場合に脅威アクターにもたらされるさらなる見返りによって、今後も進化し続けることは間違いない。AIのサイバーセキュリティにおける実践的かつ責任ある利用の方法、産業界や政府の現実的な目標の設定、そして今後1年間の進捗の測定は、社会全体でその利用をどのように管理し、長期的な回復力を推進していくかを形作る一助となるだろう。
フォーラムは世界のサイバーセキュリティ課題にどのように取り組んでいるか？
サイバーセキュリティセンターは、リーダーが一堂に会し、進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供している。増大する相互接続されたデジタル世界において、理解と信頼の構築に焦点を当てている。
セクターを横断する協力と知見の共有を可能にすることで、センターはパートナーがサイバーレジリエンスを強化し、集合的な対応を必要とする課題に対処することを支援している。
継続的な進展を確保し、前進させるためには、取り組むべき課題が多くあり、容易ではない。しかしながら、パートナーシップ、情報共有、そして産業界と政府の間での議論を、WEFのようなフォーラムを通じて継続的に重視することにより、我々が新たな方法で考え行動し、テクノロジーが世界中に広範かつ永続的な前向きの影響をもたらすよう一層導くことができると私は楽観している。
