AIは既存の枠組みを揺るがす技術であり、私たちの生活を大きく向上させる可能性を秘めていますが、悪用や地球規模の被害をもたらす恐れもあります。
2022年にはサイバー攻撃が38%増加し、生成AIモデルの普及により、今後は攻撃が指数関数的に増加する可能性があります。
ダボス会議は、政府、AI、ビジネス、サイバーセキュリティの各分野のリーダーが、AI、サイバーセキュリティ、安全性の交差領域について議論する機会を提供します。
人工知能（AI）の可能性と誇大宣伝については、これまで多くの議論が交わされてきました。AIは既存の枠組みを揺るがす技術であり、個別化医療、より安全な交通手段など、その恩恵は多岐にわたることには、誰もが同意できるでしょう。また、サイバーセキュリティ産業において、新たな防御ツールの開発を加速させ、安全なコーディングの一部を検証する上でも大きな可能性を秘めています。しかしながら、この新技術の導入は、悪用や地球規模の被害をもたらす可能性も伴います。結局のところ、私たちの生活においてAIが果たす役割を決めるのは、私たち自身です。この対話は、今まさに始める必要があります。
2022年11月、OpenAIは公開した、ChatGPT（Generative Pre-Training Transformer）と呼ばれる新しいAIモデルは、対話形式で操作でき、人々が質問を投げかけ回答を得ることを可能にします。ChatGPTは極めて人気が高く、公開からわずか5日間で100万人以上のユーザーを獲得しました。多くの人々が詩を書いたり、新しいレシピを考案したりするために利用しました。一方で、悪意ある目的を企てる人々もいました。研究者たちは、ChatGPTを使って悪意のあるメールやコードを作成し、組織へのハッキングに利用することが、不可能ではなく容易であることを速やかに明らかにしました。実際、公開からわずか数週間で、この目的のためにすでに利用されており、素人までが悪意のあるファイルを作成し、私たち全員を危険にさらしています。
生成AIはサイバー攻撃を増加させるおそれがある
なぜthis問題が重要なのでしょうか。世界では、2022年にサイバー攻撃が38%増加しました（2021年比）。一つの組織当たりの平均攻撃回数は週に1,168回でした。教育機関と医療機関は、最も標的となった業界の二つであり、その結果、病院と学校の機能が停止する事態となりました。医師は患者を治療できず、学校は閉鎖され、子どもたちは自宅に帰されました。今後、生成AIモデルの普及により、サイバー攻撃が指数関数的に増加する可能性があります。
OpenAIは、自社のAI技術の悪用を防ぐために多大な努力を払っていることは評価に値します。同社は次のように記しています。「当社はモデルが不適切な要求を拒否するよう努めてきましたが、有害な指示に応じたり、偏った振る舞いを示したりすることもあります。」しかし残念ながら、ChatGPTは危険なコードの生成を阻止するのに苦慮しています。
この点を示すため、研究者たちはChatGPTと、自然言語をコードに変換する別のAIベースのシステムであるCodexを比較しました。研究者たちは、コードを一切書かず、すべての作業をAIに任せるという制約のもとで、完全な感染フローを作成しました。研究者たちはその各部分を組み立て、実行したところ、マクロを含む悪意のあるExcelファイルを用いたフィッシングメール攻撃に利用でき、リバースシェルをダウンロードすることが判明しました。言い換えれば、攻撃者が待ち受ける側となり、被害者が攻撃を開始する側となるのです。
さらに踏み込むと、Check Point Researchのチームは最近、サイバー犯罪者がChatGPTを使用して悪意のあるツールを開発している事例を発見しました。事例によっては、これらのハッカーは開発をAIに完全に依存していた一方、他の事例では、悪意のあるコードを作成する時間を大幅に短縮するためにAIを利用していました。マルウェアからフィッシング、被害者のマシンをユーザーの操作なしに自動的に暗号化するスクリプト、さらには違法なマーケットプレイスの構築に至るまで、サイバー犯罪者がいかに急速にAIを採用し、破壊的な目的で実際に利用しているかを知ることは憂慮すべきことです。
フォーラムがリーダーのサイバーリスク理解とデジタルレジリエンス強化をどのように支援しているか
サイバーセキュリティセンターは、リーダーが進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供しています。増大する相互接続されたデジタル社会において、理解と信頼の構築に重点を置いています。
セクターを越えた協働と知見の共有を可能にすることで、同センターはパートナーがサイバーレジリエンスを強化し、集団的対応を必要とする課題に取り組むことを支援しています。
AI、サイバーセキュリティ、安全性の交差領域
では、生成AIは害をもたらすために利用され得るのでしょうか。はい、そのとおりです。AIはサイバー犯罪者に武器を与え、フィッシング攻撃を簡素化するために利用され得るのでしょうか。はい、そのとおりです。これは、いつ社会にとって真の脅威となるのでしょうか。近いうちにです。
今月開催される世界経済フォーラム年次総会では、政府、AI、ビジネス、サイバーセキュリティのリーダーが一堂に会し、AI、サイバーセキュリティ、安全性が交差する喫緊の課題について議論する機会があります。イノベーションを抑制することを目指すべきではなく、むしろ適切な安全措置が講じられることを確実にすべきです。
AIはすでに科学的ブレークスルーをもたらしつつあります。AIは金融詐欺の検知や気候変動への強靭性の構築に役立っています。AIは私たちの生活の多くの分野を改善し、発展させるためのツールです。これには安全性とサイバーセキュリティも含まれます。AIを統合された多層的なセキュリティ・アーキテクチャに組み込むことで、サイバーセキュリティ・ソリューションは、高度なサイバー攻撃を検知するだけでなく、積極的に防止する知的システムを提供できます。
今こそ、こうした対話を始める時です。AI業界における多様なデータと技術者の重要性を多くの人々が提唱してきたように、AIに関する対話には心理学、政府、サイバーセキュリティ、ビジネスの専門知識も取り入れる必要があります。生成AIに関する思慮深い規制の計画を策定するには、サイバーセキュリティのリーダー、AI開発者、実務家、ビジネスリーダー、選出された公職者、市民の間で、開かれた議論と共有された視点が必要です。あらゆる声に耳を傾ける必要があります。公共の安全、重要インフラ、そして私たちの世界に対するこの脅威に、私たちは共に確実に取り組むことができます。生成AIを脅威から味方へと転換させましょう。
