機械による人間の言語の意味や文脈の理解がまだ脆弱であることに根ざした、新たなリスクの最前線が急速に浮上している。
この新たな脅威の状況に対処するには、シンプルでありながら変革的な原則から始める必要がある。それがゼロトラストである。何者も信頼せず、すべてを検証せよ。
これは、ダボス会議2026の中心的テーマとも一致している。AIの経済的潜在力を実現できるかどうかは、責任ある導入と検証可能な信頼に依存する。
AIは、前例のないスピードで産業の運営、競争、価値創出のあり方を変えつつある。
2030年までに、AIはグローバルGDPを約20兆ドル押し上げると予測されており、今世紀で最も強力な経済的推進力の一つとしての地位を確固たるものにしている。しかし、AIが企業の業務により深く組み込まれるにつれ、機械による人間の言語の意味や文脈の理解がまだ脆弱であることに根ざした新たなリスクの最前線が急速に浮上している。
生成AIと大規模言語モデル（LLM）は、あらゆる分野で重要なワークフローの中核へと広がっている。金融機関は、市場を分析し、ボラティリティを予測するためにこれらを導入している。製造業者は、複雑なサプライチェーンを統合的に管理するためにこれらを活用している。医療機関は、情報のトリアージや研究の加速に用いている。
しかし、生成AIシステムへの依存が加速するにつれ、コードではなくコミュニケーションを悪用する新たな種類の脅威も拡大している。これらの脅威は、AIがどのように実行するかではなく、AIが何を理解するかを標的とする。そして、多くの組織が検知し防御する準備を整えるより速いペースで出現している。
LLMと新たな脅威の状況
サイバーセキュリティは従来、ネットワークの封鎖、脆弱性へのパッチ適用、ID管理の徹底など、インフラの強化に重点を置いてきた。しかし現在の脅威の状況は、より巧妙で、検知がさらに困難なものへと移行しつつある。サイバー犯罪者は、被害をもたらすためにソフトウェアの欠陥を悪用したり、ネットワークに侵入したりする必要がなくなった。AIシステムが言語をどのように解釈するかを操作し、意味内容を攻撃対象へと変えることができるのである。
悪意のある隠れた指示は、公開データ、学習用資料、顧客からの入力、オープンソースのドキュメントなど、まさに目に見える形で潜むことがある。こうした操作は、モデルの推論を歪め、出力を改変し、意思決定者に提供される洞察を損なう可能性がある。これらの攻撃は自然言語で行われるため、従来のセキュリティツールがそれを特定することはほとんどない。モデルは、何かがおかしいと誰かが気づくずっと前に、根本から汚染されてしまう。十分な準備と保護を欠く組織にとって、これは深刻で、しばしば見過ごされがちなリスクである。
これは仮定の脅威ではない。自律型および準自律型のAIシステムを導入する組織が増えるにつれ、攻撃者が言語レイヤーを標的とする動機は高まる一方である。攻撃者の参入コストは低く、潜在的な被害は甚大である。
静かな内部脅威
AIモデルが侵害されると、それは内部脅威のように振る舞う。知的財産を密かに漏洩させたり、戦略的な提言を改変したり、第三者に利益をもたらす出力を生成したりする可能性がある。課題は、その不可視性にある。警報を鳴らすことなく活動するのである。システムは依然として質問に答え、文書を要約し、データを処理し、従業員を支援し続ける。ただ、それらすべてを微妙に誤った方向で行うだけなのである。
現在見られているのは、企業リスクの重点が、データの保護から知識の保護へと移行しているということである。セキュリティリーダーにとっての重要な問いは、もはやアクセス権だけに関するものではなく、モデルが何を吸収し、それがどこから来たのかに関するものとなっている。
ガバナンスのギャップ
脅威の規模にもかかわらず、多くの組織は、AIシステムが何を取り込んでいるかではなく、誰がAIを利用しているかに依然として注目している。このギャップは、AIの導入が加速し、自律性が高まるにつれて拡大している。信頼性が高く、回復力のあるAIエコシステムを構築するには、企業がモデルに供給されるすべてのデータセット、指示、コンテンツソースの完全性と真正性を検証する必要がある。
これは、ダボス会議2026で浮上している中心的テーマとも密接に一致している。すなわち、AIの広大な経済的潜在力を実現できるかどうかは、責任ある導入と検証可能な信頼に依存する。AIは「ブラックボックス」のままであり続けることはできず、また、管理されていないデータを受動的に取り込むだけであってもならない。ブラックボックス。最も大きな経済的・社会的価値をもたらすシステムは、トレーサビリティ、透明性、説明責任を中核に据えて設計されたものとなるだろう。
AIの中核に信頼を構築する
この新たな脅威の状況に対処するには、シンプルでありながら変革的な原則から始める必要がある。それは、ゼロトラストである。何者も信頼せず、継続的にすべてを検証せよ。
ゼロトラストは新しいセキュリティ概念ではないが、その適用範囲はアクセス制御を超えて拡大されなければならず、AIシステムを学習させ導くデータや指示も含める必要がある。これには、モデルがどのように進化するかを絶えず監視し、その知識の出所をたどり、AIのライフサイクル全体にわたって説明責任を組み込むことが求められる。企業の知見の完全性がますますこれらに依存するようになっている今、AIリテラシー、データの来歴、デジタル信頼は、ESGやサイバーセキュリティと並んで、取締役会レベルの優先事項としなければならない。
これらのリスクに対するグローバルな認識は高まっている。OECD AIリスク・安全性フレームワークは2025年に公表され、同様の国際的な取り組みとともに、データの操作とAIの悪用を、共通の基準と監督を必要とする重要分野として認識している。企業にとって、こうしたフレームワークにガバナンスを適合させることは、事業運営上の回復力を高め、公衆の信頼を強化する。
フォーラムは、リーダーがサイバーリスクを理解し、デジタル回復力を強化するためにどのように支援しているか
サイバーセキュリティセンターは、リーダーが集まり、進化するサイバーリスクとそのシステム的影響を理解するための信頼できるプラットフォームを提供している。同センターは、ますます相互接続が進むデジタル社会において、理解と信頼の構築に注力している。
業種横断的な協力と知見の共有を可能にすることで、同センターはパートナーがサイバー回復力を強化し、集団的対応を必要とする課題に取り組むことを支援している。
AIが理解する言語を保護することによるAIの保護
AIの潜在能力を十分に実現するためには、サイバーリーダーは、安全な知能こそが持続可能な知能であるという考え方を受け入れなければならない。サイバーセキュリティの次の時代は、システムを防御することではなく、意味内容を防御することによって定義されるだろう。機械がどのように推論し、解釈し、伝達するかという完全性は、戦略的資産になりつつある。
AIを保護するとは、AIが依拠する言語そのものを保護することを意味する。信頼はイノベーションの次のフロンティアを定義するだろう。この分野をリードする組織や国家は、信頼を競争上の差別化要因であると同時に、世界共通の責任としても扱うことになるだろう。
