インターネットが転換点を迎える中、その形を変える3つの動向

• インターネットは発展の転換点に達しており、3つの動向が、誰が権力を握るか、そして信頼がどのように維持されるかを変えつつあります。

• 世界経済フォーラムとKPMGが実施したインタビューは、「Connected Future」イニシアチブの一環として、多くの機関、プラットフォーム、利用者が、AI時代の変化の速さにまだ備えられていないことを示唆しています。

• インターネットの未来は能力だけでなく、信頼、説明責任、ガバナンスについて今下される決定によって定まります。

インターネットは新たな段階に入りつつあります。3つの変化が、誰が権力を握るか、そして信頼がどのように維持されるかを変えつつあります。すなわち、データ生成の爆発的な増加、デジタル情報および取引に対する信頼の低下、そしてサービスや知識へのアクセスを次第に仲介するようになった人工知能（AI）システムの台頭です。

世界経済フォーラムとKPMGが実施したインタビューは、「Connected Future」イニシアチブの一環として、多くの機関、プラットフォーム、利用者が、特にAIが人々や組織に代わって検索、判断、行動し始める中で、変化の速さにまだ備えられていないことを示唆しています。

参加者からは、既存のルール、インセンティブ、説明責任の仕組みが追いついていないとの指摘がありました。特に、誰がデータを利用できるのか、誰がIDやコンテンツを検証できるのか、そしてシステムが行動した際に誰が責任を負うのか、という点が課題とされています。

前の時代の前提のいくつかはもはや成り立たなくなっているため、今は転換点です。次の段階は、技術的能力と同じくらい、制度上の選択と官民協力によって形づくられるでしょう。

インターネットを形づくる3つの動向

私たちの調査では、インターネットに対する現在の姿勢と利用のあり方を定義している3つの重要な動向が明らかになりました。

1）データは環境に遍在し、新たな種類の価値を生み出しつつある

何十年もの間、インターネットは主に人々が入力、検索、投稿、購入したものを捉えてきました。しかし今、その状況は変わりつつあります。インターネットは、ますます高い粒度で、物理世界をはるかに多く捉えるようになっています。

データはもはや主に意図的な行動によって生成されるわけではありません。センサー、ウェアラブル機器、接続された環境が、継続的な「アンビエント」（常時稼働）データを生み出します。例えば、ウェアラブル機器が健康データを収集し、それが保険の判断に影響を与えることがあります。

これは、健康、モビリティ、公共サービスにおけるブレークスルーをもたらす可能性があります。一方で、人々が何が収集され、何が推測され、何が共有されているかを把握することを難しくし、同意、証明、越境的なガバナンスに関する緊急の問いを提起しています。

開発のペースが加速する中、AIの役割もツールから参加者へと移行しつつあります。AIはすでにソフトウェアの作り方を変えており、開発サイクルを劇的に速め、時には期間をかつての数分の一にまで縮める一方、人間が作成したものを上回る品質のコードを生み出すこともあります。

自律型エージェントの利用が急速に拡大していることは、実務的な問いを投げかけています。エージェントが影響の大きい判断を下したとき、誰が責任を負うのでしょうか。

2）信頼が拘束要因になりつつある

組織がより重大性の高い場面でAIを導入するにつれ、採用は技術的な実現可能性ではなく、システムが安全で、法令を遵守し、説明責任を果たすという確信によって、ますます制限されるようになっています。法的な曖昧さ、契約上のリスク、社内方針が、より明確な責任の枠組み、より高い監査可能性、そして場合によっては補償の要求を促しています。

支払いや金融サービスといった重大性の高い分野では、能力と監督の間のギャップがより目立つようになっています。Larry Wade氏は、PayPalの暗号資産・企業スタッフ部門のグローバル・コンプライアンス責任者として、次のように述べています。「技術は規制の能力を上回るスピードで進んでいます。効果的な規制が導入される前に重大なリスクが顕在化する可能性があり、特にデータ、ID、資金に関わる分野でその傾向が顕著です。」

合成メディアも信頼の環境を変えつつあります。音声、画像、動画は現在、大規模に実在の人物や出来事を説得力をもって模倣できるようになっており、検証は難しくなり、より速く移り変わる操作が容易になっています。被害は個人を狙った詐欺にとどまらず、帰属が不明確な場合には、市場の健全性、組織のセキュリティ、市民の情報環境にも及びます。

技術的リスクを超えて、この変化は、何が真実であるかについての信頼をむしばみ始めています。ディープフェイクの助言者であるHenry Adjer氏は、人々が真実を確実に見分けられると信じなくなる「認識論的ニヒリズム」が忍び寄っていると警告しています。したがって、レジリエンスには、欺瞞よりも信頼できる参加を容易にするインフラが必要です。

この信頼の課題がデジタルIDにおいてこれほど深刻な場所はありません。断片化によって、システムや国境を越えた相互運用性が制限されているためです。Jordan Burris氏は、Socureの公共部門戦略責任者として、「デジタルIDは壊れており、その壊れ方は国によって異なります。」と指摘しています。

実際には、この信頼の欠如は、本人確認と権限付与の場面に表れています。国やセクターによって本人確認の方法が異なるため、資格情報は国境を越えて容易には移動しません。これにより、資格情報を受け入れること、資金を移動させること、行動する権限を持つ者を確認することが難しくなります。特にAIエージェントがより多くの商業的業務を担うようになるにつれ、その傾向は強まります。その結果、各国の規則が複雑に入り組んだ寄せ集めになりつつあります。

デジタルID、来歴、認証は、市場や公共サービスへの参加に不可欠な要件になりつつあります。インタビューに応じた方々は、AIによるなりすましが支配的な詐欺の手口となりうると指摘しました。これに対応して、本人保証、安全な権限委譲（エージェントへの権限付与）、起源の検証可能な記録が、誰が取引を行い、サービスにアクセスし、オンラインで参加できるかを、ますます決定するようになるでしょう。

3）AIはインターネットの門番になりつつある

AIは能動的な意思決定者になりつつあり、情報を選別し、コンテンツに優先順位を付け、人々が目にし選ぶ製品やサービスを形づくっています。組織は消費者の注目だけでなく、アルゴリズムによる選択をめぐっても、ますます競争するようになっています。これは、公平性、透明性、市場の健全性に関する新たな検討事項を生み出しています。

目立たない形で、インターネット上の活動はより多くが自動化されつつあります。スクレイパー、ボット、エージェントが、大規模に索引化、抽出、やり取りを行い、人間のために設計されながらも、次第に機械によって利用されるようになったウェブのセキュリティ、レジリエンス、経済性に関する懸念を生んでいます。

同時に、インターネット活動そのものの性質も、自動化がウェブへのアクセスと利用の方法を変えるなかで移行しつつあります。Stephanie Cohen氏は、Cloudflareの最高戦略責任者として、「HTMLページリクエストの50%以上は、今や人間によるものではありません。人間が自分の代わりに情報へアクセスさせるためにエージェントを送り込んでいるからです。私たちは、人間のインターネットと機械のインターネットという2つのインターネットの出現を目の当たりにしています。」と指摘しています。

これに対応して、より管理されたチャネルへの移行が起こる可能性が高く、検証可能なボットや、アクセス、帰属、説明責任のための明確なプロトコルが整備されるでしょう。また、組織は、構造化データ、来歴を示すマーカー、検証可能な主張といった、機械が読み取れる信頼性の指標への投資の仕方も形づくられるでしょう。

市民、企業、政府にとって何が変わるのでしょうか。

これらの変化によって、人々のオンラインでの関わり方は変わるでしょうが、次のインターネットの姿は、あらかじめ決まっているわけではありません。

オンライン生活をよりスムーズにできる同じ技術が、権力を集中させ、断片化を深め、信頼のコストを高めることもあります。ガバナンス上の鍵となる問いは単純です。個人、プラットフォーム、市場、あるいは共有された相互運用可能なインフラのうち、誰が責任を負うのか、という点です。

これらの変化を総合すると、はるかに複雑で予測しにくい運用環境が生まれつつあります。特にエージェント型システムの台頭は、規制当局や企業がようやく理解し始めたばかりの、創発的な振る舞い、不透明な相互作用、相互に連結したリスクの表面などを含む、新たな形の不確実性をもたらすと予想されています。

こうした背景のもとで、3つの動向はすべて、ひとつの問いに収束します。次のインターネットは、強力かつ信頼できるものになりうるのでしょうか。データの増加、懸念の高まり、AIによる仲介の拡大は、信頼できるエージェントが強固なガバナンスの下で価値を生み出す好循環にも、不透明なシステムが規制のないデータの流れを悪用し、利用者が離れていく悪循環にもなりえます。

これらの選択は、ほとんどの関係者が認識しているよりも速く迫っています。この転換点において、インターネットの未来は、能力だけでなく、信頼、説明責任、ガバナンスについて今下される決定によって定まります。