サイバー攻撃の実行においてますます一般的になっているAIエージェントは、攻撃者の視点からシステムを調査するための防御手段としても使用できる。
エージェント型スキャナーは、サイバーセキュリティ環境を調査するのに十分な自由度を持ちながら、その調査範囲を明確に定義する境界線内で活動する必要がある。
自律的なセキュリティテストは決してリスクフリーではないが、企業はAIエージェントがもたらす脅威から目を背けることはできない。
最近、多くのCISOやCIOとエージェントスキャンについて議論してきました。必要性について疑問を呈する声はほとんど聞きません。よく耳にするのは、リスクに対する懸念です。
エージェントスキャンは、AIエージェントを使用して攻撃者の視点から環境を調査し、発見した情報を既知の脆弱性や外部情報と組み合わせ、信頼できる攻撃経路を検証します。
エージェント型スキャナーに、本番環境を調査する際の自律性をどの程度まで与えるべきでしょうか？攻撃経路が実在することを証明するために、どの程度まで調査を進めるべきでしょうか？もしスキャナーが誤りを犯したらどうなるでしょうか？そして、保護しようとしている環境に損害を与えないようにするにはどうすればよいでしょうか？
これらはもっともな懸念です。私たちもエージェントスキャンを使い始めた当初、全く同じ疑問を抱いていました。しかし、待つこともまた一つの決断であり、それにはそれなりのリスクが伴います。
攻撃者側でAIエージェントが利用される事例は既に確認されている。最近の台湾政府システムへの攻撃では、攻撃者が制御するAIエージェントがシステムの構造を解析し、脆弱性を発見し、攻撃の大部分を自律的に実行した。
これにより議論の様相が変わる。攻撃者はAIを使って侵入経路を継続的に探知できる。一方、防御側は、全く異なるルールの下で運用しながらも、まずは自らの環境を調査する能力を必要とする。
既に持っているスキャナーはそのままにしておく
私たちは長年にわたり、自社の環境における脆弱性をスキャンしてきました。今後も継続していくべきです。従来のスキャナーは、既知の脆弱性、適用されていないパッチ、設定上の問題などを体系的に検出します。
エージェントによるスキャンは同じ資産インベントリに対して実行できますが、異なる質問をします。
従来のスキャナーは、「何が脆弱なのか？」と問いかけます。
エージェント型スキャナーはこう問いかけます。「これを使って何ができるだろうか？」
攻撃者の視点から環境を探索し、さまざまな経路を試行し、うまくいかない場合は適応します。複数の脆弱性を組み合わせて悪用可能な攻撃経路を構築する方法を発見できます。
我々には両方が必要だ。一つは、我々が警戒すべき点を体系的に網羅すること、もう一つは、実際に悪用可能な点について攻撃者の視点から考察することだ。
スキャナーに攻撃者の視点を与えるのであって、攻撃者の自由を与えるのではない。
攻撃者はIPアドレスだけから始めるわけではありません。私たちのシステムに侵入する前に、すでに私たちの外部資産、使用している技術、公開情報、そして過去の情報漏洩やアンダーグラウンドフォーラムからの情報など、多くの情報を把握している可能性があります。
エージェント型スキャナーは、同じ関連コンテキストで動作する必要があります。攻撃者が情報を入手できる場合、攻撃者はそれを利用すると想定すべきです。
違いはその後に何が起こるかだ。攻撃者は我々の本番環境を妨害することを心配する必要はない。我々が心配するのだ。
したがって、エージェント型スキャナーには、攻撃経路を探索および検証するための十分な自由度と、その探索範囲を明確に制限する境界線が必要です。また、これらの境界線の一部は技術的に強制される必要があります。モデルに破壊的な動作を行わないように指示することと、その動作自体を不可能にすることは同じではありません。
最小限のリスクで最大限の安心感
エージェントスキャンに関する私たちの経験から、私たちはシンプルな原則にたどり着きました。それは、最小限のリスクで最大限の信頼性を得るということです。具体的には、広範囲に探索し、安全に検証し、最小限の悪用を行い、経路が証明された時点で停止します。
スキャナーがより高い権限を取得できることを証明した場合、その権限で可能なすべての操作を探索する必要はありません。機密データにアクセス可能になった場合、アクセス可能であることを証明するだけで十分です。攻撃を継続しても、有用な証拠はほとんど得られず、リスクが増大するだけです。
最も優れたエージェント型スキャナーとは、最も遠くまで探索できるスキャナーではなく、十分な探索範囲に達したと判断できるスキャナーである。この原則は重要である。なぜなら、自律的なセキュリティテストは決してリスクフリーではないからだ。目標は、テスト対象環境へのリスクを不必要に高めることなく、セキュリティ上の意思決定を行うのに十分な証拠を得ることであるべきだ。
実験からセキュリティ機能へ
エージェントによるスキャン技術はまだ発展途上です。初期段階では検証に耐えられない発見が多すぎましたが、実践的なハッキング知識の向上、より豊富なコンテキスト、そしてより強力な検証によって結果が改善され、明確な境界線を設定することで本番環境へのリスクを慎重に管理できるようになりました。
組織は、この機能を自社で開発する必要もありません。現在では、商用およびオープンソースのエージェント型スキャンソリューションが利用可能です。これは、研究開発段階から、組織が評価・導入できるセキュリティ機能へと移行しつつあります。
進歩を測る重要な指標は、これらのシステムがどれほど自律的になるかではなく、私たちが設定した境界内で、悪用可能な経路をどれほど確実に特定し、証明できるかであるべきだ。
私たちは見ないことを選択できない
この問題の本質には非対称性がある。攻撃者は侵入経路を見つけることに特化できるが、防御側は保護対象の環境に損害を与えることなく同じ経路を見つけ出さなければならない。そのため、私たちの仕事はより困難になる。しかし、探索が選択肢の一つになるわけではない。
AIによって攻撃者はより迅速かつ自律的に環境を探索できるようになるため、セキュリティチームも同様に積極的な対応を取る必要があります。そのためには、ある程度のリスクを許容し、自律的なテストに明確な境界線を設け、その境界線をどこに設定すべきかを学ぶことが求められます。
フォーラムがリーダーのサイバーリスク理解とデジタルレジリエンス強化にどのように役立つか
の サイバーセキュリティセンター 本プラットフォームは、リーダーたちが集まり、進化し続けるサイバーリスクとそのシステムへの影響を理解するための信頼できる場を提供します。相互接続がますます進むデジタル世界における理解と信頼の構築に重点を置いています。
当センターは、異業種間の連携と知見の共有を促進することで、パートナー企業がサイバーレジリエンスを強化し、集団的な対応を必要とする課題に対処できるよう支援します。
エージェントスキャンは、攻撃が発生する前に攻撃者の視点から環境を把握できるという、非常に貴重な能力を私たちにもたらします。私たちはその視点を活用しつつ、その後の展開をコントロールしていくべきです。
なぜなら、悪用可能な経路は、私たちが探さなくても消えるわけではないからです。他の誰かが先にそれを見つけるかもしれません。
