AIの覇権争いにおいて、サイバーセキュリティへの配慮が中心的な課題となっています。
AIはサイバー攻撃の効果を高めるものの、その影響は、AI技術をサイバー防御能力の強化に活用することで相殺できます。
AIがもたらす利点を活かすには、その応用が社会全体で公平かつ安全に実装されるよう、世界的な官民協力が必要になります。
人工知能（AI）における新たな技術進展は世界に大きな衝撃を与え、各国政府は戦略的優位を得ようとし、テック企業は 戦略的優位を獲得することを競うようになっており、テック企業は新たなAIシステムを開発・商用化しようとしています。
新たなAI応用は社会に多大な恩恵をもたらす可能性を持つ一方で、国家安全保障、民主主義の不安定化から、大規模な 経済的混乱に至るまで、深刻なセキュリティ上の影響をもたらしかねません。
これらのリスクは、選挙の年である今年には一層高まっています。世界では40億人以上の人々が投票に向かう予定です。サイバー攻撃は、ミュンヘン安全保障報告書2024と世界経済フォーラムのグローバルリスク報告書2024の双方で主要なリスクとして挙げられています。後者は、AIが生成する誤情報・偽情報の出現を、今後2年間に予想される世界的リスクの中で2番目に深刻なものとしても指摘しています。
AIがサイバーセキュリティに及ぼす影響は多岐にわたり、かつ変化し続けています。脅威アクターはこれらの新技術を自らの利益のために活用し、サイバー攻撃能力を強化しています。
AIは、既存の戦術、技術、手順の進化と強化をもたらし、サイバー犯罪者にとっての参入障壁を引き下げ、サイバー攻撃の実行に必要な専門知識を減らすでしょう。ソーシャルエンジニアリングも、新たな大規模言語モデル（LLM）によって強化されており、脅威アクターはますます高度なスピアフィッシング・キャンペーンを作り出しています。
技術が進化するにつれ、合成メディアと人間が作成したコンテンツの違いは、検知技術でさえ見分けることが難しくなっており、ディープフェイクはこれまで以上に現実味を増し、より標的型で危険なものになっています。
最近、ある多国籍企業の香港支社がディープフェイクを利用した詐欺の被害に遭いました。悪意ある者はディープフェイクを使い、ビデオ会議で同社の最高財務責任者になりすまし、従業員の一人に2,500万ドルを支払わせました。
AIはサイバーセキュリティをどのように強化できるか？
AIの進歩がもたらす脅威の増大によって、新しいAIモデルがサイバーセキュリティにもたらしうる大きな利点が見えなくなるべきではありません。これらのツールが悪意あるサイバー攻撃者に悪用される一方で、サイバー防御側もAIを活用して自らのサイバーセキュリティ能力を向上させることができます。
ここ数年、AI技術はサイバーセキュリティ・ソリューションの開発に利用されてきましたが、生成AIの登場により、サイバーセキュリティ向けのAI技術への投資を強化する組織が増えています。
シスコのジートゥ・パテル氏は、「今は防御側に有利な形に天秤を傾ける絶好の機会だ」と主張しています。この考え方はテック業界全体で広く共有されており、ミュンヘン安全保障会議では、15を超える主要企業が、今年の世界的な選挙に欺瞞的なAIコンテンツが影響を及ぼすことを防ぐための支援を誓約しました。
さらに、Googleのサンダー・ピチャイ氏は、発表しました。検知・対応チームの対応を迅速化することでサイバー防御を強化する新たな取り組みを開始するというものです。Microsoftは、悪意ある脅威アクターによるMicrosoftのサービス利用を検知・遮断する取り組みを主導しており、また、ユーザーがメディアにデジタル署名し、認証できるようにする新たなツールも発表しました。Metaは、AI生成コンテンツを識別し、表示するための新たな技術標準を発表しました。
AI技術は、一般市民への啓発や次世代のサイバー防御人材の育成など、サイバーセキュリティ教育の強化にも役立ちます。ISC2のサイバーセキュリティ人材調査によれば、サイバーセキュリティ人材が400万人不足していると推計されており、深刻な状況です。
このギャップに対処するため、フォーラムは2023年4月に、「サイバースキルのギャップを埋める」と題するマルチステークホルダー・イニシアチブを立ち上げました。その目的は、戦略的なサイバーセキュリティ人材の枠組みを構築し、個人がサイバーセキュリティ人材として参入し、活躍できるよう支援する施策を考案することです。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているか？
AI卓越性センターは、急速に進化する人工知能と、それが経済や社会に及ぼす影響を理解するため、各分野のリーダーをつなぎます。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援しています。
信頼できる場と協働イニシアチブを通じて、センターはパートナーが共通理解を築き、AIの革新と利用に対する責任あるアプローチに向けて協力できるよう支援しています。
AIの責任ある利用を確保するために、どのような取り組みが行われているか？
各国政府や国際機関も、安全なAIの開発のためのガイドラインや規制の枠組みを策定する上で、重要な役割を果たしています。こうした規制は、AI技術の開発、利用、導入を導き、社会に利益をもたらすと同時に、それがもたらしうる害を抑えることを目指すものです。
近年の例としては、次のようなものがあります。欧州連合のAI法の策定、国連のAIガバナンスに関する諮問機関の設立、英国の安全なAIシステム開発のためのガイドライン、ホワイトハウスによるAI安全性に関する大統領令、そして米国のAI安全研究所の設立などです。
官民協力を促進するため、フォーラムは2023年4月にAIガバナンス・アライアンスを立ち上げました。業界リーダー、政府、学術機関、市民社会組織を結集し、透明性と包摂性を備えたAIシステムの責任あるグローバルな設計と提供を推進しています。
AIの覇権争いにおいて、サイバーセキュリティとこれら先端技術との複雑な関係が中心的な課題となっています。AIはサイバー攻撃の効果を高めるものの、その影響は、AI技術をサイバー防御の仕組みの強化に活用することで相殺できます。
組織がAIの導入、セキュリティ上の脅威、防御戦略が絡み合う複雑な状況を乗り越えるには、リスクと見返りを包括的に理解することが、成長を確保しながらAIの可能性を最大限に引き出すうえで不可欠となるでしょう。
フォーラムのAIガバナンス・アライアンスの取り組みを踏まえ、サイバーセキュリティセンターは、オックスフォード大学と連携し、AIの文脈におけるサイバーリスクと機会に関する世界のリーダーの戦略と意思決定を導いています。
AI開発における急速な技術進歩は、前例のない恩恵と課題を伴う変革の時代をもたらしています。AIがもたらす利点を活かすには、その応用が社会全体で公平かつ安全に実装されるよう、世界的な官民協力が必要になります。
