私たちに代わって様々なシステムとやり取りするため、エージェント型AIは非人間的ID（NHI）を生み出しています。
セキュリティ上の死角におけるNHIの増殖は、暗号資産の活用を含め、悪意ある攻撃者にとっての攻撃対象領域を大幅に拡大させます。
NHIの課題への対処は、そうしたエージェント型ツールおよびより広範な暗号資産を完全に可視化することから始まります。
AIは世界の企業を変革し、効率化を実現し、意思決定を加速させ、イノベーションを促進し、あらゆる業務階層を再構築しています。最も重要な潮流の一つが、エージェント型AIです。これは、特定の目標に合わせて調整された、企業のデータやシステムとやり取りする自律的な「エージェント」です。これらのエージェントは、文脈の把握、計画立案、適応的な問題解決に長けており、人間による介入や監督を最小限に抑えながら、複雑で多段階のプロセスを実行します。2024年10月、Gartnerは、エージェント型AIを2025年の最重要技術トレンドに挙げ、2028年までに企業向けアプリの33%がエージェント型AIを組み込むと予測しました。2024年時点の1％未満から大きく増加する見通しです。
エージェント型AIの導入を急ぐあまり、多くの組織が重大なサイバーセキュリティ上の課題を見落とすリスクがあります。それは、APIキー、サービスアカウント、認証トークンなどを含む非人間的ID（NHI）の台頭です。これらのAIエージェントは、ツール、API、ウェブページ、システムとやり取りし、助言するだけでなく、利用者に代わって行動を実行します。エージェント型AIは、機微なデータやシステムへの広範かつ持続的なアクセス権を、人間に通常適用される保護措置なしに受け取りがちなセキュリティ上の死角にNHIを生み出す可能性があります。さらに、エージェント型AIは単に受動的なものではなく、推論する知能を備えており、デジタル世界および物理世界に重大な影響を及ぼす可能性を秘めた行動を取ることができます。
急速に拡大する環境では、NHIはセキュリティチームが監視できる速度を上回るペースで増殖しています。NHIの利用は、企業の潜在的な攻撃対象領域を大幅に増やし、これまで安全とみなされていた箇所に新たなリスクを生み出します。かつてCISOが懸念すべきだったのは、従業員と一部の外部パートナーへの認証情報の付与だけでしたが、今後は膨大な数のNHIに対してもそれを行う必要が生じます。
これは予見できたはずだったのでしょうか。おそらくはそうでしょう。歴史が示すように、自律システムは本来の境界を超えることがあります。1988年のモリス・ワームは、インターネットをマッピングするために設計されましたが、代わりに6,000台のマシンに感染しました。Stuxnetは、2010年にイランの核遠心分離機を標的とするために作られましたが、世界の産業システムへと拡散しました。2024年には、セキュリティ演習中にChatGPTのモデルがサンドボックスから脱出し、指示されていないにもかかわらず制限されたファイルにアクセスしました。
これらの事例は、自律エージェントが作成者の期待を超える能力を獲得し得ることを示しています。意図的に悪意を持って設計された場合のリスクは、はるかに深刻なものになります。
アクセスを獲得・維持し、運用するため、エージェント型AIは機微なワークフローにNHIを組み込み、APIを活用してリソース間でデータを移動させ、機微なデータにアクセスし、機械の速度で動作します。エージェントのやり取りには、証明書や暗号化キーなどの暗号資産の活用も伴います。残念ながら、現代の企業のIT基盤の規模と複雑さのため、ほとんどのCISOは、NHIおよび暗号環境の完全な可視化はもちろん、どのような暗号が導入されているか、どこに導入されているか、それが依然として有効かどうかの一覧を把握することすら困難です。この透明性の欠如は、NHIおよび暗号の探索（資産の棚卸しを含む）に対する現代的なアプローチの必要性が高まっていることを浮き彫りにしています。守ることのできないものは、見ることもできないのです。
継続的な識別・認可を求め、必要最小限の権限のみを付与するゼロトラスト・アーキテクチャは広く採用されていますが、ほとんどの導入は人間のIDにとどまっています。自動化されたプロセスは、有効期限、証明、説明責任のないまま広範な認可権限を保持し続けることが多く、システムを保護するために設計されたプロトコルを回避しています。NHIがいつ、どのように、何のために利用されているかについてリアルタイムの可視性がなければ、認証だけでは誤った安心感にすぎません。
現在、セキュリティ上のキルチェーンの台頭が見られます。すなわち、過剰な権限を持つサービスアカウント（リソースへのアクセスと自動化のためにアプリケーションが作成するNHI）、コードに書き込まれた機微な認証情報、そして非アクティブまたは期限切れの証明書です。マルウェアや明白な脆弱性攻撃はありません。あるのは、チームや環境をまたいで引き継がれがちな、NHIおよび暗号ガバナンスの管理の不備だけです。これは静かな障害状態であり、容易に壊滅的な損失へと連鎖しかねません。
影響は企業のデータ侵害にとどまりません。電力網、緊急通信システム、防衛ロジスティクスなどの重要インフラを考えてみてください。ここでの認証情報の侵害は、稼働時間を脅かすだけでなく、人命を脅かします。
政策立案者や規制当局も行動を起こし始めています。NSM-10、EO 14028、OMB M-23-02といった米国政府による義務付けは、国家のサイバーセキュリティを強化するため、現在ではリアルタイムの暗号資産の棚卸しを求めています。これらは、自社の暗号資産と、それにアクセスしている主体について正確かつ最新の把握がなければ、コンプライアンスとセキュリティの両立は不可能であると認識しています。
暗号化は、人間と非人間（エージェント）の双方について、識別とアクセス権（認証）を確立し、実施します。暗号とアクセス権・特権が正しく対応付けられ、維持されていなければ、AIエージェントが暴走し、人間のハッカーが私たちのシステムを侵害することを、事実上招いていることになります。より最近の大統領令はさらに踏み込み、暗号管理の自動化を促すとともに、耐量子アルゴリズム（別名ポスト量子暗号）への移行を加速させています。RSAやECCを破ることのできる量子コンピュータは、今日暗号化された通信を収集している者に、あらゆる種類のデータへのアクセスを可能にしてしまうでしょう。
この課題への対処は、可視性を確保することから始まります。組織は、NHIおよび暗号資産を発見し、マッピングできなければなりません。その上で、ID認識型のアクセス制御、自動化された鍵管理、そしてシステムやパートナー全体にわたるポリシーの実施が不可欠です。最後に、ML-KEMやML-DSAといったNIST標準化のポスト量子アルゴリズムを採用し、量子耐性への備えを進めることで、長期的な安全性が確保されます。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築していますか。
AI Excellence センターは、分野横断的なリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを進めています。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づく対話を支援しています。
信頼できる場や共同イニシアチブを通じて、センターはパートナーが共通理解を築き、AIイノベーションと利用に対する責任ある取り組みで協働することを可能にしています。
AIによってますます形作られる世界において、堅牢なNHIおよび暗号ガバナンスに牽引されるセキュリティのレジリエンスは、国家のレジリエンスそのものです。これを後方のコンプライアンス業務として扱う余裕はありません。あらゆる取締役会、セキュリティプログラム、デジタル変革イニシアチブの最前線に据えなければなりません。暗号が破綻すれば、他のすべても共に崩れ落ちるからです。
