サイバー攻撃は日常的なものになりつつあり、今日の世界が直面する戦略上最も重大なリスクの一つとして認識されています。近年、政府や重要インフラの所有者、大規模な民間企業や中小企業、教育機関、非営利団体に対するデジタル攻撃が確認されています。サイバー攻撃を免れている分野はなく、直面する脅威の巧妙さは絶えず高まっています。
サイバーセキュリティの未来は、最近登場した、巧妙でステルス性の高い新しいタイプの攻撃者によって形作られるでしょう。彼らの狙いはデータを盗むことではなく、むしろデータを操作または改ざんすることです。攻撃者が人工知能（AI）を用いて、次の大きなサイバー兵器の進化を推し進め、最終的にはAIの悪意ある利用の先駆けとなることは疑いありません。AIが持つ学習と適応の基本的な能力は、高度にカスタマイズされ、人間を模倣した攻撃が拡張可能となる新時代をもたらすでしょう。「攻撃型AI」――高度に洗練された悪意ある攻撃コード――は、環境について学習しながら自らを変異させ、検知される可能性を最小限に抑えてシステムを巧みに侵害できるようになるでしょう。
プロトタイプAI攻撃：未来への一端
AIを活用したサイバー攻撃は、仮説上の未来の概念ではありません。攻撃型AIを利用するために必要な構成要素はすでに存在しています。高度に洗練されたマルウェア、投資収益率を高めるためにあらゆる手段を厭わない、金銭目的で冷酷な犯罪者、そして価値の高い情報を公共領域で入手可能にするオープンソースのAI研究プロジェクトです。
現代で最も悪名高いマルウェアの一つ――Emotetトロイの木馬――は、プロトタイプAI攻撃の代表的な例です。Emotetの主な感染経路はスパムフィッシングであり、通常は利用者を騙して悪意のあるメール添付ファイルをクリックさせる請求書詐欺を通じて行われます。Emotetの開発者は最近、トロイの木馬に、感染した被害者からメールデータを盗み取る別のモジュールを追加しました。このメールデータの流出機能の意図は以前は不明確でしたが、Emotetが最近、文脈に沿ったフィッシングメールを大量に送信している様子が確認されています。これは、既存のメールスレッドに自動的に自身を挿入し、被害者に悪意のある添付ファイルをクリックするよう促し、その添付ファイルが最終的な悪意のあるメールに表示されることを意味します。既存のメールにマルウェアを挿入することで、フィッシングメールにより多くの文脈が与えられ、正当なものに見えやすくなります。
しかし、Emotetを作成した犯罪者は、AIを容易に活用してこの攻撃を飛躍的に強化できます。現在、最終的なフィッシングメールの文面は通常非常に一般的であり――例えば「添付をご確認ください」など――、これが時に疑念を抱かせることがあります。しかし、AIがメールスレッドの文脈を分析することで自然な言語を学習・再現する能力を活用すれば、これらのフィッシングメールは個人に合わせて高度にカスタマイズされる可能性があります。つまり、AIを活用したEmotetトロイの木馬は、完全にカスタマイズされた、より信憑性の高いフィッシングメールを作成・挿入できるということです。重要なのは、こうしたメールを大量に送信できるため、犯罪者は作戦による成果を大幅に増大させることができるという点です。
これらの発展しつつある攻撃手法がもたらす結果は、極めて破壊的であり、生命を脅かすものにさえなり得ます。こうしたステルス攻撃はデータの完全性を損なうことで、組織への信頼を揺るがし、さらにはシステム障害を引き起こす可能性すらあります。例えば、誤った地質探査データを用いて、石油掘削リグが誤った場所で石油を掘削する場面や、改ざんされた医療記録をもとに医師が診断を下す場面を想像してみてください。AIの軍拡競争が続く中、この革新のサイクルはエスカレートしていくものと予想されます。
攻撃型AI：サイバー攻撃におけるパラダイムシフト
2017年には、WannaCryランサムウェア攻撃が世界150か国以上の組織を襲い、サイバー攻撃の高度化における新時代の幕開けを告げました。その成功は、ハードディスクを麻痺させながら、数秒のうちに組織内を横方向に移動できる能力にあり、この事件は後に複数の模倣攻撃を生むことになりました。この「革新」のサイクルは今後も続き、攻撃者はすでに暗号資産マイニング型マルウェアへと移行しています。これは、ビットコインなどのデジタル通貨をマイニングするために、処理能力をひそかに盗用するものです。また、正規のアプリケーションを装いながら金融データを盗むマルウェアの一種であるバンキング型トロイの木馬も登場しています。
敵対的人工知能の利用は、セキュリティ環境に次の3つの主要な形で影響を及ぼすでしょう：
1 - 信頼された利用者へのなりすまし
AI攻撃は高度に標的化されつつ、大規模に展開されるでしょう。こうしたマルウェアは、メールやソーシャルメディアの通信を分析することで、個人の行動や言語の微妙な違いを学習できるようになるでしょう。その知識を用いて利用者の文章スタイルを再現し、極めて信頼性が高く見えるメッセージを作成できるようになります。そのため、AIマルウェアが作成したメッセージは、本物の通信と見分けることがほぼ不可能になるでしょう。攻撃の大多数はメールボックスを通じてシステムに侵入するため、最もサイバーセキュリティ意識の高いコンピュータ利用者でさえ脆弱になるでしょう。
2 - 背景への溶け込み
高度な脅威アクターは、検知されることなく、標的環境に数か月間にわたって長期的に潜伏し続けることがしばしばあります。従来のセキュリティ管理を回避するため、彼らは慎重かつゆっくりと行動し、特定の個人や組織を標的とすることが多いのです。AIはまた、主要な通信チャネルや、システム内を移動するために最適なポートやプロトコルを学習し、日常的な活動に目立たず紛れ込むことができるようになるでしょう。このように雑音の中で自らを偽装する能力により、デジタル環境内で巧みに拡散し、これまでになく多くの機器をステルス的に侵害することが可能になります。また、AIマルウェアは膨大な量のデータを機械の速度で分析し、どのデータセットが価値があり、どれがそうでないかを迅速に特定することもできるようになるでしょう。これにより、（人間の）攻撃者は多くの時間と労力を節約できます。
3 - より迅速な攻撃と、より効果的な結果
今日の最も高度な攻撃には、熟練した技術者が標的を調査し、関心の対象となる個人を特定し、その社会的ネットワークを把握し、デジタルプラットフォーム上での交流を時間をかけて観察することが必要です。明日の世界では、攻撃型AIは、わずかな時間で、かつ何倍もの規模で、同等の高度さを実現できるようになるでしょう。
AI主導の攻撃は、より高度に標的化され、その結果より効果的になるだけでなく、文脈を理解する能力により、検知がさらに困難になるでしょう。従来のセキュリティ管理は、予測可能で事前にモデル化された活動しか検知できないため、この新たな脅威に対しては無力になるでしょう。AIは絶えず進化しており、従来型セキュリティ手法の基本的な運用方法である脅威の分類に、ますます耐性を持つようになるでしょう。
デジタルエコシステムへのAIの組み込み
接続されたシステムや機器への依存を強めるにつれ、私たちは高度に発達し、密接に接続されたデジタルエコシステムを急速に構築しつつあります。重要な戦略的課題に勝利することを優先するパートナーシップと能力が必要です。また、官民が保有する経済的に価値のあるデータを守るだけでなく、社会的結束と民主的制度を支えるデジタルシステムへの信頼も守る必要があります。
新技術への投資は、この新たに現れつつある現実と進化するエコシステムにおいて重要な役割を果たすでしょう。フレスターの『悪のためのAI活用』レポートによれば、「主流のAIを活用したハッキングは時間の問題にすぎない」とされています。実際、AIがサイバー攻撃者の道具の一部になり始めるにつれ、この悪意あるAIの利用に対抗する唯一の方法はAIそのものであることになるでしょう。したがって、このエコシステムに技術を組み込むことが極めて重要です。
反撃：機械には機械で対抗する
サイバーセキュリティ・コミュニティは、この新たな未来に向けてすでに多額の投資を行っており、重要なデータを妨害または侵害する可能性のある新たなサイバー脅威を迅速に検知・封じ込めるためにAIソリューションを活用しています。防御型AIは、サイバー攻撃に対抗するための単なる技術的優位性にとどまらず、この新たな戦場における不可欠な味方です。組織はセキュリティ担当者による手動のインシデント対応に頼るのではなく、短期的には、AIを用いて発生しつつある問題に反撃し、一方で人間のチームがAIの意思決定を監督し、長期的に全体的なレジリエンスを向上させる是正作業を行うようになるでしょう。
AIを活用した攻撃は、人間の対応チームを凌駕し、従来型の防御を出し抜くでしょう。したがって、人間とAIの相互依存的なパートナーシップが、将来の防御戦略の基盤となるでしょう。未来の戦場はデジタルであり、AIは疑いなく選ばれた武器です。サイバーセキュリティという世代を超える課題に対する特効薬はありませんが、一つだけ明らかなことがあります。AIと対等に渡り合えるのはAIだけだということです。技術はすでに存在しており、準備すべき時は今です。
