ソーシャルエンジニアリング型サイバー攻撃は、自動化され、適応的で、標的に合わせて調整されているという特徴がある。
AIは、個人や企業から数百万ドルを騙し取るためのソーシャルエンジニアリング型サイバー攻撃に利用されてきた。
これに対抗するには、分野横断的な協力を中核に据えた、協調的なアプローチが求められる。
特に生成AI（GenAI）と大規模言語モデル（LLM）は、世界中で爆発的に普及した。この技術は、基本的なITヘルプデスクへの対応から高度なユーザー行動分析に至るまで、日常的な様々な業務を自動化する大きな可能性を示している。こうした業務の自動化は、通常、AIエージェントによって行われる。これは、タスクを遂行し、アクションを実行するように設計された自律型ソフトウェアである。特筆すべきは、各業界の企業が効率性を高め、コストを削減するために、AIツールの導入を急速に進めていることだ。効率性を高め、コストを削減する。
しかし、AIモデルの台頭により、それを効果的に活用する新たなサイバー攻撃も出現している。これは、AIベースの攻撃として知られている。これらの攻撃は、自動化され、適応的で、標的に合わせて調整されているという特徴がある。こうした攻撃の台頭は、サイバーセキュリティにおける新たな領域を切り開き、サイバーセキュリティの状況を変えつつある。実際、MITREは、AIシステムにおける敵対的戦術に対処するため、広く使われているMITRE ATT&CKフレームワークの拡張としてMITRE ATLASフレームワークを導入した。MITRE ATT&CKフレームワークを導入した。
AIとサイバーセキュリティ
AI技術の目覚ましく急速な進歩にもかかわらず、その悪用は重大な懸念を生んでいる。実際、世界経済フォーラムのグローバルリスク報告書2024は、AI技術に関連するリスクとして、誤情報・偽情報を最大のリスクに挙げている。高度なモデルを活用することで、AIはサイバーセキュリティの脅威の状況を一変させ、壊滅的な影響をもたらしうる。AIベースの攻撃は、推論し行動する能力があるため、従来の防御技術を無効化してしまう。こうした進展により、人間の能力をはるかに超える速度と規模で、洗練された新たな脅威が生まれる道が開かれた。
近年、AIベースの攻撃が相次ぎ、見出しを飾っている。ディープフェイク技術は、AIを用いて欺瞞的なコンテンツを生成することで知られている。香港では、この技術を使い、詐欺師が財務担当者を騙して2,500万ドルを支払わせた。詐欺師は、ビデオ会議の場で同社の最高財務責任者になりすました。ディープフェイクを利用した詐欺のように、脅威アクターにとってほとんどコストがかからないこうした手口は、今後加速すると予想され、あらゆる企業全体を脅かすものとなる。
AIを活用したソーシャルエンジニアリング攻撃
個人データのオンライン上の足跡が増え続け、AIベースの攻撃が高度化する中、脅威アクターはより個人に合わせた、より欺瞞的な攻撃を開発できるようになっている。その一例がソーシャルエンジニアリング攻撃であり、これは人々を操作して機密情報を明かさせたり、セキュリティを損なう行動を取らせたりする技術である。強力なAIモデル、特にLLMの利用が可能になったことで、従来は能力の低かった脅威アクターにもソーシャルエンジニアリング攻撃の開発が身近なものとなっている。例えば、ある音声模倣技術は、ある詐欺師が、15歳の娘を持つ母親を恐ろしい状況に陥れた。詐欺師は、実際には無事だった娘を誘拐したと主張したのである。
デジタル上の欺瞞は大きく進化しており、ソーシャルエンジニアリング攻撃の新たな最前線を生み出している。デジタル資産に対するソーシャルエンジニアリング攻撃の影響は深刻であり、金銭的損失やプライバシー侵害を含む。こうした攻撃は、電子メール、フィッシングサイト、テキストメッセージ、音声通話やビデオ通話、ソーシャルメディアプラットフォームなど、様々な媒体を通じて実行されうる。一般に、ソーシャルエンジニアリング攻撃は、デジタルインフラのセキュリティの脆弱性よりも、人間中心の脆弱性を悪用することに大きく依存している。
AIベースの攻撃に対する確かな防御技術はまだ開発途上にある一方で、AI技術が関与するサイバーセキュリティインシデントの件数は大幅に増加している。AIベースの攻撃は、ますます強力になり、しばしば高い成功率を収めており、その能力を急速に高めているため、環境を保護する任務はより困難になっている。しかし、だからといって、詐欺師やハッカーが勝利したわけではない。
AIベースの攻撃に関連する懸念への対応
AIベースの攻撃に関する懸念には、3つの方法で対応できる。第一に、新たなAIベースのサイバー攻撃に対する、現在のサイバーセキュリティ管理策の有効性を十分に理解することが不可欠である。これは、AIベースの攻撃がさらに進化する前に、組織間で即時の対話を行い、情報を交換することで、世界的な対策を確立する一助となる。
第二に、重要な資産を守るには、現行のセキュリティ対策を改善し、こうした新たな攻撃に対する強固な防御を開発するとともに、新しい形態の技術について社会全体の認識を高め、教育していくことが必要である。さらに、既存の枠組みを見直し、新たなAIベースの攻撃に対応して更新することは、貴重な資産を守るための重要な一歩である。
最後に、政府や主要な技術企業を含むエコシステム全体が協力し、AIとサイバーセキュリティの交差領域に注力する研究機関、スタートアップ、中小企業を支援すべきである。この投資は、OpenAIが既存の主要企業よりも先にAIに革命をもたらしたように、画期的な解決策を生み出す可能性を秘めた重要な推進力となる。これは、サイバーセキュリティの防御が、これら新たなAIベースの攻撃の脅威の高まりよりも速く進化することを確実にするために、世界的な舞台でより多くの協調的な取り組みが求められているという緊急の要請である。
