AIエージェント経済の成長は、信頼を脅かす一方で、信頼を再考する機会ももたらす。
AIへの信頼は二つの側面から成り、テクノロジーの能力と意図に対する認識に基づいている。
自律型AIの普及に伴い、私たちは三つの異なるレベルで信頼を捉え直す必要がある。
ノーベル賞受賞者のケネス・アローがかつて指摘したように、あらゆる経済取引には信頼の要素がある。今日、AIエージェントが処理する取引が増えるなか、その信頼は新たな圧力にさらされている。世界全体で信頼の水準が低下する一方、日常生活やビジネスシステムにおけるAIエージェントの存在感は急速に高まっている。
悲観的なシナリオでは、これによって信頼が損なわれる可能性がある。楽観的なシナリオでは、信頼を再考し、経済成長を促す道が開かれる。
社会の信頼と経済的成果の結びつきは、十分に立証されている。デロイト・インサイトによると、ある国で信頼する人々の割合が10パーセントポイント増加すると、1人当たり実質GDPの年間成長率は約0.5パーセントポイント上昇するはずだ。しかし、人と人とのやり取りからエージェントを介した取引へと移行するなかで、この関係は変化している。
AIを活用する経済において、信頼は今後も成果を左右し続けるだろう。本当に問われているのは、どのような信頼が最も重要になるのか、そしてそれをどう築くのかだ。
AIエージェント経済に向けて
デジタル経済はエージェント型へと変わりつつある。AIエージェントは支援ツールから自律的な存在へと移行し、取引の実行、資源の配分、意思決定を担っている。
AIは数十年にわたって成熟を続けてきたが、今日、転換点を迎えている。ガートナーの「人工知能ハイプ・サイクル」によると、AIエージェントは期待のピークにあり、導入までの見込み期間は2～5年だ。2028年までに企業向けソフトウェアアプリケーションの約33%にエージェント型AIが組み込まれ、日々の業務上の意思決定の少なくとも15%がAIエージェントによって自律的に行われるようになる。AIエージェント経済は完全に現実のものとなり、説明責任、協働、信頼にまったく新しい形が求められる。
信頼の中核をなす基本要素は二つある。能力（実行する力）と意図（行動の背後にある目的）だ。先端技術の能力を疑う人は今や少ないが、意図は依然として不透明な領域にある。
信頼に差が生じる理由、そしてそれが重要な理由
調査によると、AIへの信頼は地域や人口統計上の属性によって大きく異なる。KPMGとメルボルン大学による調査によると、新興国と比べ、先進国の人々はAIを信頼する度合い（39%対57%）も受け入れる度合い（65%対84%）も低い。社会学的な観点から見ると、こうした環境では、信頼は依然として対人関係や伝統的な制度に根差している。
最新のエデルマン・トラスト・バロメーター世界報告書は、現在の状況を「不満の危機」と表現している。不満が強まるほど、AIへの疑念も深まる。不公正や不満を強く感じている人は、AIを信頼する可能性が大幅に低く、企業によるAIの利用にも顕著な不安を抱いている。制度への信頼が損なわれるにつれて、ビジネスやガバナンスにおけるAIの役割拡大への抵抗感も強まる。
信頼がどのように形成されるかを理解することが不可欠となる。
信頼を得る方法
自律型エージェントの普及に伴い、三つの主要な領域で信頼がどのように機能するかを捉え直す必要がある。
人と人との信頼。対人信頼の基盤は、共有する価値観、互恵性、過去の経験であり続ける。しかし、デジタル層によって、他者の認識の仕方は変わりつつある。ビデオ通話で見慣れた顔がAI生成のアバターかもしれないとなれば、信頼を築くために頼ってきた心理的な手がかりが揺らぐ。人間とAIが共存する世界では、真正性、アイデンティティ、交流の規範について新たな問いが生じる。
エージェント間の信頼。AIエージェント間の信頼は、実績、評判に関するデータ、予測可能な振る舞いといったシグナルの交換を通じて形成される。エージェントは、能力（技術的な実行力、信頼性）と意図（目標の一致、意思決定の透明性）に基づいて互いを評価する。この領域における信頼は、時間とともに信頼を評価、検証し、適応できるシステムをどう設計するかというエンジニアリング上の課題となる。
人とエージェントの信頼。人がAIエージェントを信頼するには、エージェントが一貫したアイデンティティと予測可能な振る舞いを示す必要がある。人は一貫性を信頼する。信頼できる相手を覚えているのと同じように、AIエージェントもユーザーを記憶して適応し、継続性と一貫性のあるやり取りを提供しなければならない。AIが不規則に振る舞ったり、別の何かを装ったりすれば、信頼は損なわれる。真正性と記憶をエージェントの設計に組み込む必要がある。
AI時代の信頼の基盤
AIへの信頼を妨げる最大の課題の一つは、エージェントの意図が明確でないことだ。たとえば、自動運転車は統計上、人間の運転者より安全かもしれない。それでも、多くの人が信頼を寄せないのは、判断の指針となる価値観が不確かだからだ。
これは、AIシステムにおいて、能力だけでなく動機も含め、意図を透明で説明可能にする必要があることを示している。システムの観点からは、データをシームレスかつ安全に交換する方法、プラットフォームをまたいでエージェントのアイデンティティを検証する方法、情報だけでなく信頼そのものも伝達できる共通プロトコルを作る方法といった技術的課題にも直面している。
しかし、おそらく最も難しい課題は考え方にある。ベンチャー投資会社セコイア・キャピタルが指摘したように、エージェント経済で成功するには、新しいテクノロジーだけでは不十分だ。AIエージェントに何ができ、何ができないのか、そしてどう統治すべきかを理解する、新しい種類のリーダーシップが求められる。
AIを形づくる好機
今後5年間は、自律型エージェントが存在する世界で信頼がどう機能するかを形づくる、短くも極めて重要な機会となる。グローバルなAIエージェント市場の規模は、2030年までに503億1,000万ドルに達すると予測されている。グランド・ビュー・リサーチによると、エージェント経済の進化に伴い、かかるリスクはかつてないほど高まる。強固な信頼の枠組みが整備されなければ、詐欺やセキュリティ上の脅威が指数関数的に増えるおそれがある。
世界経済フォーラムは、人工知能にどのようなガードレールを設けているのか。
AIエクセレンス・センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会にもたらす影響への理解を深める。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援する。
信頼できる場と協働イニシアチブを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に責任あるアプローチで共に取り組めるよう支援する。
専門家は2024年を「ディープフェイクの年」と呼んだ。時がたつにつれて、自律型AIエージェントの開発が進み、偽造や詐欺の可能性はますます広がるだろう。こうした状況は、信頼や経済指標の低下を招くおそれがある。たとえば、デロイトの金融サービスセンターは、生成AIによって詐欺被害額が400億ドルに達する可能性があると予測している。米国だけでの額だ。世界経済規模での損失は、AIエージェントの市場規模を上回るだろう。
混乱、操作、デジタル過負荷によって不信感が広がるのを許すこともできる。あるいは、明確さ、一貫性、人々が共有する価値観を基盤に、知的エージェントによって強化された新たな信頼の仕組みを築くこともできる。
