生成AIは強力なテクノロジーであり、特にサイバーセキュリティの分野では、対処すべきリスクを伴います
高度なマルウェアや検知回避技術、フィッシング、ソーシャルエンジニアリングやなりすまし、リバースエンジニアリング、CAPTCHAツールの突破は、生成AIによって生じる脅威の一部です。
生成AIを活用した手法による脅威の拡大に対処するには、サイバーセキュリティ業界が進化し、戦略を適応させなければなりません。
生成人工知能（AI）は世界を変え、さまざまな業界に多くの可能性をもたらしています。この種のAIは、テキスト、画像、音楽、音声、動画など、新たなコンテンツを生成できます。機械学習モデルは膨大なデータセットで訓練され、パターン、構造、関係性を学習することで、元のコンテンツに似た、あるいはそれを超える出力を生成します。
OpenAIのGPTシリーズは生成AIのよく知られた例で、人間らしいテキストや対話を生み出す優れた能力を示しています。しかし、この強力なテクノロジーには、特にサイバーセキュリティの分野で対処すべきリスクもあります。ここでは、AIや生成AIがサイバーセキュリティにもたらしうる脅威のシナリオをいくつか紹介します。
世界経済フォーラムは、最先端技術と現実世界の課題を結び付けるため、リーダーをどのように支援しているのか
フロンティア技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集し、新興技術とその現実世界への影響を理解するための取り組みを進めています。
連携と実験を可能にすることで、同センターは、研究から生まれたイノベーションを、共通の地球規模課題に取り組む実用的な応用へと発展させるよう、パートナーを支援しています。
高度なマルウェアと検知回避技術
GPT-4などの生成AIシステムは、現実的で一貫性のあるテキストやコードを作成できます。この能力には多くの有益な用途がある一方、従来のセキュリティ対策では検知が難しい高度なマルウェアの開発に悪用される可能性もあります。AIが生成するマルウェアは、標的や環境の変化に迅速に適応できるため、人間が作成したものより高度になる可能性があります。この適応性により、AIを活用したマルウェアはリアルタイムでの検知や無力化が困難になります。
機械学習を用いてセキュリティシステムを認識し、回避する高度な手法も、もう一つの重大な脅威です。こうした手法には、シグネチャベースの検知を避けるためにコードを絶えず変更するポリモーフィック型マルウェアや、機能を変えずに構造を変化させるメタモーフィック型マルウェアがあります。AIが責任ある形で利用され、悪意ある用途から保護されるよう、取り組みを進める必要があります。
フィッシング、ソーシャルエンジニアリング、なりすまし
ユーザーをだまして悪意あるリンクをクリックさせたり、機密情報を提供させたりするフィッシング攻撃も、生成AIの恩恵を受ける可能性があります。正規のやり取りを巧みに模倣した説得力のあるメールやメッセージを生成することで、攻撃者は成功の可能性を高められます。
人とのやり取りや心理的な操作を利用して情報やシステムへの不正アクセスを得るソーシャルエンジニアリング攻撃も、生成AIを使うことで効果を高められる可能性があります。攻撃者は、セキュリティフィルターをすり抜け、警戒心の強いユーザーさえだます、非常に説得力のある個人向けメッセージを作成できます。
例えばディープフェイク技術を使えば、信頼されている人物になりすました、現実的な動画や音声を生成できます。これは、特に標的型フィッシング攻撃で大きな効果を発揮する可能性があります。
生成AIはソーシャルメディア上の偽プロフィールの作成も容易にし、攻撃者が正規のユーザーになりすまして信頼を得やすくします。こうした偽プロフィールは、情報収集や偽情報の拡散、標的型攻撃の実行に利用され、個人や組織に脅威をもたらす可能性があります。
リバースエンジニアリング
リバースエンジニアリングとは、ソフトウェアやハードウェアを分解・分析し、その機能、設計、実装を理解することです。得られた知識は、既存システムの改善、脆弱性の特定、新技術の開発など、さまざまな目的に活用できます。
生成AIは、リバースエンジニアリングの工程を自動化し、質の高い成果を迅速に生み出すことで、そのあり方に影響を与える可能性があります。これは利点にも欠点にもなります。セキュリティ研究者が脆弱性を特定して軽減する助けになる一方、悪意ある攻撃者がソフトウェアやハードウェアシステムの弱点を発見し、悪用する助けにもなりえます。生成AIを活用すれば、攻撃者は既存のマルウェアを分析・改変し、検知や軽減の対策を回避できる、より強力な新種を作成できます。
さらに、生成AIを使って特定の脆弱性や標的に合わせたカスタムエクスプロイトを作成すれば、より効果的で防御が難しいものにできます。
CAPTCHAツールの突破
CAPTCHAツールは、オンラインで人間のユーザーとボットを区別するために使われます。画像の中から物体を識別したり、簡単なパズルを解いたりするなど、人間には比較的容易でも自動化システムには難しい課題をユーザーに求めます。生成AIを含むAIや機械学習の近年の進歩により、CAPTCHAツールを効果的に突破できる機械学習モデルの開発が可能になりました。
この進歩は、スパム、総当たり攻撃、スクレイピングなどの自動攻撃からオンラインサービスを守るうえで不可欠な、CAPTCHAツールの有効性を損ないます。その結果、オンラインサービスがさらされるサイバー脅威の範囲と深刻さが増します。
生成AIには多くの利点がありますが、サイバーセキュリティに対する潜在的な脅威ももたらします。このテクノロジーの可能性を探るにあたり、倫理的な配慮を優先し、デジタルエコシステムを守ることが不可欠です。
AIを活用した手法による脅威の拡大に対処するには、サイバーセキュリティ業界が進化し、戦略を適応させなければなりません。そのためには、研究開発への投資に加え、AIの悪用に対抗し、デジタル環境を守る最先端のセキュリティソリューションを導入する必要があります。AIが生成する脅威を特定して対応する高度な機械学習アルゴリズムの開発が不可欠です。
研究者、サイバーセキュリティの専門家、政策立案者、法執行機関、官民各部門の継続的な連携は、AIの責任ある利用を促し、進化するサイバー脅威に対する強固な防御を築く助けとなります。
