この記事は、世界経済フォーラムの地政学プラットフォーム
今日のサイバー攻撃の多くは、ボタンを押すと同時に瞬時に発生するものではない。とりわけ偵察段階では、多くの資源と時間を要し、人間が指揮して人間の速度で展開する。攻撃者に必要な時間と資源は、ネットワークに導入された防御策の質と水準に正比例する、とウィルソン・センターのメグ・キング氏とジェイコブ・ローゼン氏は論じる。
さらなる脆弱性の探索、行動の監視、ネットワーク内での横方向への移動、データの改ざんや窃取などを目的にネットワークへの継続的なアクセスが必要になるほど、大きな被害が出る前に強固な防御システムが不審な活動を検知する可能性は高まる。サイバー攻撃は続いているが、時間、資金、労力、そして失敗する可能性はいずれも、ほかのサイバー犯罪予備軍にとって抑止要因となりうる。
しかし、サイバー作戦への人工知能、とりわけ機械学習の適用は、この均衡を崩す可能性を秘めている。機械の速度で実行される攻撃を、より効率的かつ効果的に行うためのツールが提供されるからだ。
悪用するソフトウェアの脆弱性を探すために大量のデータを精査したり、より巧妙な標的型フィッシングの手口を作り出したりするなど、サイバー攻撃の準備に最も時間がかかる作業も、もはや人間の労働力に時間と多額の費用をかける必要はなくなり、絶え間なく迅速に行われるようになる。
機械は休憩を取る必要がなく、疲労や倦怠感によって潜在的な脆弱性や攻撃の機会を見落とすこともない。非構造化データを統合する能力により、人間の目には見えない、あるいは少なくともすぐには明らかにならない関連性を機械が見いだせるようになる。
適切に記述されたアルゴリズムは、標的のコンピューターが反応する前にその応答を予測し、マシンやオペレーティングシステムの防御機能を作動させない方法で動作することさえできる
未定義
自動化は、それを使わない相手に対して大きな速度の優位性をもたらすだけではない。一部のツールは適応性を備えているため、ネットワークに長時間さらされると、悪意あるコードが対応し、回避することで、自動化されていないセキュリティソフトウェアをリアルタイムで突破する可能性がある。
適切に記述されたアルゴリズムは、標的のコンピューターが反応する前にその応答を予測し、マシンやオペレーティングシステムの防御機能を作動させない方法で動作することさえできる。人間だけが実行するデジタル攻撃を防ぐ態勢が十分に整ったネットワークが、今日どれほど少ないかを考えると、これは特に懸念される。
人工知能がもたらす安全保障上の懸念がある一方で、AIは防御にも不可欠な用途をもたらす。ネットワーク防御担当者や政策立案者が変化する技術環境を検討する際には、4つの重要な動向を慎重に考慮すべきだ。
1. 標的型フィッシングは有効で、かつてないほど容易になっている
シマンテックの2018年版「インターネットセキュリティ脅威レポートによると、標的型フィッシングは攻撃者のほぼ4分の3に使われており、圧倒的に最も多く利用され、成功しているサイバー攻撃の手法だった。このプロセスを自動化すれば――2年以上前にブラックハット・カンファレンスで実証されたように――この広範な問題をさらに悪化させるだけだ。
自然言語処理、ヒストグラム、公開データの収集を組み合わせれば（特に、より口語的な語彙や文法の使い方が見られるTwitterなどのソーシャルメディアから）、攻撃者はより本物らしく見える悪意あるメールを作成できる。同時に、必要な作業量を減らし、こうしたキャンペーンを実施する速度を上げられる。
労力、時間、資源を減らしながら質を同時に高められるため、標的型フィッシングは今後も、私たちが直面する最も解決困難なサイバーセキュリティ問題の一つであり続ける。
教育や啓発キャンペーンを通じて基本的なサイバー衛生を改善すれば、エンドユーザーがフィッシングメールの危険性を認識し、受信した不審なメッセージに注意を払ううえで確実に役立つ。しかし、人が互いを信頼する傾向は、フィッシング攻撃に対する完全な防御を妨げる重大な脆弱性であり続ける。AIはその不足を補える。AIを使って異常や不審な内容を検知するメールフィルタリングサービス、たとえばRedMarlin、Inky、Phish.aiが提供するサービスは、ユーザーにリアルタイムで警告する。警告を受けたユーザーは、より慎重に情報を踏まえて判断できる。人間と機械を組み合わせることで、より優れた防御が実現する。
2. 振る舞いの検知
機械学習を用いた振る舞いの検知は、業界の専門家から、多層防御型サイバーセキュリティにおける最も有望なソフトウェアソリューションの一つと評価されている。振る舞い検知システムは、ネットワークの活動を監視し、そのネットワークにおける「通常」の振る舞いの基準を作成する。この基準を使ってネットワーク上の新たな振る舞いを照合し、異常または不正な活動を示唆する兆候を見つけて、確認のために警告を出す。大規模なネットワークに分散したユーザーの行動を観察・分析するには、機械学習アルゴリズムのほうがはるかに適している。
残念ながら、こうした防御ツールはサイバー攻撃者にリバースエンジニアリングされ、効果的なサイバー兵器として再構成されている。昨年、インドのある企業が、ネットワークへの攻撃を受けた。攻撃者は機械学習を使ってユーザーの通常の行動パターンを観察し、そのパターンを模倣してシステム内での存在を隠そうとした。
3. クラウドへの移行
登場から10年余りのクラウドコンピューティングは、規模の経済をユーザーにもたらすとともに、セキュリティ面でも大きな利点を提供している。今日では、攻撃者の重要な戦術や手順（マルウェアの種類や好んで使う攻撃手法など）に関する脅威情報を、かつてない速さと規模で共有できる。この能力を生かし、サイバーセキュリティ業界は現在、機械学習をエンドポイントおよびマルウェア対策の製品に組み込んだ商用プログラムを提供している。脅威情報の収集と分析のプロセスを自動化することで、防御側は悪意ある活動をより正確かつ迅速に検知し、脅威に対応できる。
残念ながら、さまざまなクラウドも攻撃者にとって大きな標的となる。既知の脆弱性を持つソフトウェアを利用して、サービス拒否攻撃からクラウドサービスへの攻撃までを自動化する手法は、今後も継続的な問題となるだろう。クラウドが多くのユーザーにとって非常に有利である理由の一つである拡張性も、防御や設定が不十分であれば、壊滅的な結果を招く可能性がある。
4. ソフトウェアの脆弱性発見
脆弱性の発見は今日に至るまで、人間が行う手間と時間のかかる作業であり、発見の速度を抑え、避けられない人間の盲点によって発見可能な範囲も限られている。そのため、この分野は自動化に適している。
2016年、DARPAはグランド・サイバー・チャレンジを開催し、各チームがキャプチャー・ザ・フラッグ形式の競技で競い合った。しかし、主役は人間ではなかった。競技はスーパーコンピューター上で動作する自動プログラムだけで構成され、それぞれのプログラムは自らのネットワークをスキャンして脆弱性を見つけ、敵対者の攻撃に備えて修正する課題に取り組んだ。MAYHEMとして知られるスーパーコンピューターを開発した企業ForAllSecureが優勝し、その後、製品を商用化した。同社は自動脆弱性発見機能を、国防総省と民間企業の双方に販売している。
これまでの成果は注目に値する。広く使われているオープンソースプログラムを対象とした公開テストケースの一つでは、MAYHEMはわずか60時間で10件のエクスプロイトを発見した。そのうち1件の脆弱性は、プログラム全体を停止させる可能性があった。対象のプログラムは以前、ほかの脆弱性研究者によってスキャンされており、彼らは既存の最も危険なエクスプロイトを発見できたとかなり確信していた。攻撃者も同様のツールを開発しようとするだろう。
今後の課題
人工知能は、高度な攻撃者によるサイバー攻撃の速度と成功率を高め、いずれはスキルの低い攻撃者についても同様の効果をもたらす可能性がある（市販のツールが開発され、利用可能になれば）。また、サイバー攻撃と防御の従来の境界をさらに曖昧にするだろう。
こうした自動化技術をより迅速かつ効果的に導入した側が優位に立つ。AIは、一般市民の大半や多くの民間企業が備えていない攻撃をもたらすだろう。幸い、サイバーセキュリティ業界も防御に同じ手法を用いている。しかし、こうしたサービスには継続的な投資と、進化するサイバー防御策を促すインセンティブが必要であり、それらはまだ大規模には実現していない。
攻撃者からネットワークを守るうえで、人間は今後も自らのネットワークを防御する重要な担い手であり続ける。しかし、そうした戦略では自律システムが中心的な役割を果たすことが不可欠だ。
防御目的で人工知能を効果的に使うには、事前対応型と事後対応型の双方の戦術やツールを組み合わせる必要がある。政策立案者は、こうしたツールの活用に関するベストプラクティスの分析を促し、その使用基準の策定を検討すべきだ。
人工知能が直面する真の課題：サイバー攻撃の自動化、メグ・キング氏とジェイコブ・ローゼン氏、ウィルソン・センター
