汎用人工知能は、サイバーセキュリティと私たちの脅威環境を再編する、高度に自律的なシステムをもたらすだろう。
サイバー脅威への対抗には、同じツールを用いた悪意ある攻撃キャンペーンへの対応が含まれるが、成否は攻撃側と防御側のどちらがより速くツールを導入するかにかかっている。
AIを安全に導入するためには、政府、産業界、学術界、専門家を含むAIエコシステムのすべての関係者が、意図的で、先回り的かつ協調的な行動を取る必要がある。
汎用人工知能（AGI）とは、高度に自律的な人工知能（AI）システムであり、ほとんどの認知的課題を人間と同等に遂行できるものを指す。チャットボットや画像認識など、特定の課題向けに構築されることの多い今日のAIとは異なり、AGIは複数の領域にわたって知的推論、学習、適応能力を示すことができるだろう。
また、指示があった時のみ応答する現在のAIツールとは異なり、AGIシステムは直接的な監督なしに行動を開始し、目標を追求し、運用を継続すると私たちは見込んでいる（ただし、まだ到来していない人工超知能と混同してはならない。人工超知能では、機械があらゆる認知的作業を人間の水準をはるかに超えて遂行しうる）。
ただし、AGIは確定した定義というより依然として流動的な対象であり、学術界と産業界でも解釈が分かれている。明らかなのは、それが出現すれば、サイバーセキュリティと私たちの脅威環境を再編するということだ。
不均衡な競争
この技術がサイバーセキュリティとどのように交差するかについて、懸念が高まっている。デジタル領域では、攻撃者は本質的な優位を持つ。攻撃者は一度成功すればよいのに対し、防御者は起こりうるすべての弱点を絶えず守らなければならないからだ。先進的なAIモデルはすでに増幅させており、AGIは、政策立案者、産業界、研究者が断固として行動しなければ、この非対称性をさらに拡大させるだろう。
今日のフロンティアAI がすでに防御者に課題を突きつけているなら、AGIは賭け金をさらに引き上げる。セキュリティ運用は、個別のインシデントだけでなく、キャンペーンにも対抗する必要が出てくるだろう。
攻撃者はより速く動き、新しいツールを自由に試している一方、防御者は官僚主義、旧式のプロセス、リスク回避によって動きを鈍らされることがしばしばある。
これまで組織は、フィッシングメールや悪意あるコードの一片といった個別のインシデントを懸念してきた。AGIは潜在的に攻撃者が、キーボードの向こうにいる人間の攻撃者ではなく、リアルタイムで学習し調整する機械知能によって駆動されるキャンペーンを実行することを可能にしうる。
データ侵害が、偽情報キャンペーンやサプライチェーンの混乱と時を同じくして仕掛けられる場面を想像してほしい。これは、サイバー、物理、情報の各領域にまたがる、指導者やインフラへの協調的な圧力を生じさせうる。対応には、これらの領域全体にわたる脅威、インテリジェンス、対処策について、はるかに統合された視点が必要となるだろう。
同様に懸念されるのは、AGIがいかに攻撃の段階を短縮するかである。かつては数週間にわたって展開されていたサイバー作戦が、数時間で完了しうる。AGIシステムは、攻撃の異なる段階（例：偵察、脆弱性の発見、エクスプロイトの開発）を連鎖させ、何かが成功を返すまで、数千もの低コストの試行を実行できる可能性がある。
諸刃の剣
しかし、AGIは攻撃者だけの道具となる運命にあるわけではない。研究は示しており、AIシステムは、エクスプロイトの開発よりも、パッチ適用などの防御的タスクにおいて優れていることが多い。うまく活用すれば、AGIは強力な力の増幅器となりうる。日常的なトリアージや修復作業から、過重労働のセキュリティチームを解放することができる。
数か月を要するパッチ適用のサイクルが数日に短縮されうるため、攻撃者にとっての機会の窓は狭まるだろう。AGIはまた、サイバーセキュリティを事後的な火消しから先回りのレジリエンスへと転換させうる。システムは、より強靭になりうる。継続的に設定ミスをスキャンし、修正を模擬し、最も重大な脆弱性が悪用される前に指摘することで、
AGIは日常的な作業を引き受け、意思決定を支援することで、人間のアナリストが複雑な調査や戦略的課題に集中する余地を広げうる。
しかし、真の課題は、AGIが防御能力をより良く提供できるかどうかではなく、防御者が攻撃者と比べてどれだけ速くそれを導入できるかである。攻撃者はより速く動き、新しいツールを自由に試している一方、防御者は官僚主義、旧式のプロセス、リスク回避によって動きを鈍らされることがしばしばある。
この速度の格差は、攻撃と防御の非対称性を悪化させている。均衡を変えるためには、防御者はAIの活用を加速させ、それを実務に組み込まなければならない。さもなければ、主導権を攻撃者に明け渡すことになる。
より広い国際的文脈
すでに、AIは重要インフラ、経済システム、国家安全保障の中核にあり、AIは国家および国際的な発展の手段であり目標ともなっている。世界のAI環境は、経済市場と安全保障のパラダイムを再編しようとしている。
しかし、AIにアクセスできない小国や開発途上国は、AIがもたらす効率性、イノベーション、経済成長の押し上げをすでに逃している。AGIの登場により、この格差はさらに拡大し、これらの国々が取り残されるリスクが高まる可能性が高い。
したがって、国連のグローバル・デジタル・コンパクトに示されているとおり、あらゆるデジタル格差の解消を継続し、すべての人々のための公平なデジタル環境を推進することが不可欠である。
行動の呼びかけ
AGIがデジタルインフラに組み込まれるにつれ、AGIは脅威環境を形作るだけでなく、自らもその内部の直接的な標的となるだろう。
AIシステムを侵害する機会は増え続けるため、関係者は、AI技術スタック（データ、モデル、インフラ、アプリケーション、ガバナンス）を保護する機会を検討し、ライフサイクルの視点に立ったアプローチで、AIシステムの保護に今、AGIの本格的な開発が実現する前に、また共通のデジタルインフラでAIを利用するにあたって取り組むべきである。
AIの安全な導入と利用を確保するため、政府、産業界、学術界、専門家を含むAIエコシステムのすべての関係者は、行動を今日、意図的で、先回り的かつ協調的に取る必要がある。
第一に、十分なAGIの技術的側面に関する理解は、政策立案者やサイバーセキュリティ専門家にとってもはや任意のものではなく、必要不可欠なものである。政策立案者は、イノベーションと安全かつ確実な導入のバランスを取る枠組みやアプローチを策定するため、AIおよびAGIの技術的な複雑さを理解する必要がある。
小国や開発途上国にとって、能力構築は、このスキルのギャップに対処する一つの方策となりうる。
私たちの前にある課題は明確であり、緊急でもある。AIセキュリティを世界共通の優先事項として引き上げ、ガバナンスと設計に組み込み、AGIがデジタルレジリエンスを損なうのではなく強化するよう、断固かつ早期に共に行動することである。
次に、協調的な取り組みが必要である。AIのセキュリティ基準の底上げに向けた取り組みだ。AGIの自律性と適応性は、新たなセキュリティのパラダイムとアプローチを必要とするだろう。より明確なガイドライン、調和された標準、実践的なツールは、組織がフロンティアAIを導入する際に、情報に基づいた選択を行う助けとなりうる。
例えば、シンガポールのサイバーセキュリティ庁は、ガイドラインを策定し、AIシステムをライフサイクル全体にわたって保護することに関する補足ガイドを公表した。AIシステムの相互接続が進むにつれ、セキュリティ標準は、安全でシームレスな相互運用を可能にする共通言語として浮上するだろう。
最終的には、国際的および産業界の協力が、AGIに関連するセキュリティリスクの低減において極めて重要となるだろう。サイバーの越境的な性質を踏まえると、私たちは最も弱い環節と同程度にしか強くない。
国際社会は、新たな技術や新興技術を取り入れる一方で、開かれた、安全で、安定した、アクセス可能な、平和的かつ相互運用可能なサイバー空間の実現に向けて、共に取り組まなければならない。
世界経済フォーラムのような国際プラットフォームは、こうした問題に注目を集め、解決策を討議し、国際協力を促すうえで重要な役割を果たしている。
今後の道筋
AGIは、今日の脅威を単に加速させるだけでなく、キャンペーンの計画、実行、そしてそれへの防御の在り方そのものを変えるだろう。適切な投資と協調があれば、AGIは攻撃者の力の増幅器ではなく、防御面での平等化装置として、保護し活用することができる。ただし、それは私たちがAGIを導入し、攻撃者より速くそれを行う場合に限られる。
政策立案者にとっては、広範な原則を超えて具体的な行動へと移ることを意味する。すなわち、技術的リテラシーを構築し、イノベーションとレジリエンスのバランスを取る枠組みを策定することである。
産業界や技術リーダーにとっては、今日からAI技術スタックを強化し、フロンティアAIの進展に歩調を合わせる、AIシステムの安全かつ確実な導入のための戦略、テスト、ベンチマークを実行に移すことを意味する。
国際的なレベルでは、国際協力を強化し、誰一人取り残されないようにすることが求められる。
私たちの前にある課題は明確であり、緊急でもある。AIセキュリティを世界共通の優先事項として引き上げ、ガバナンスと設計に組み込み、AGIがデジタルレジリエンスを損なうのではなく強化するよう、断固かつ早期に共に行動することである。
