AIエージェント（複雑なタスクを自動化するツール）は、大規模言語モデル（LLM）の登場により、再び注目を集めています。
より複雑なAIシステムの開発と導入には、より優れた安全性とガバナンスのプロセスが必要です。
世界経済フォーラムとCapgeminiは、新たなホワイトペーパー「Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents」を発表しました。本書では、これらのスマートアシスタントの能力と影響について検討しています。
人工知能（AI）エージェントという概念は1990年代に生まれました。これは、ユーザーに代わって自律的に動作する知的なソフトウェア主体であり、インターネットなどの環境を移動します。当時のインターネットは非常に単純で、テキストが中心で、画像がわずかに挿入され、ハイパーリンクがある程度という状態でした。まともな検索エンジンも存在しなかったため、人間によるブラウジングの代わりに、ユーザーに代わってAIエージェントがブラウジングを行うことは有用だと考えられていました。当時のAIの水準では、人間の複雑な現実世界ではなく、このような単純化された環境においてのみ、その実現に期待が持てたのです。
大規模言語モデル（LLM）の登場と、その自然言語理解および推論能力により、AIエージェントへの関心が再び高まっています。SalesforceやServiceNowなどの企業は、自社のアプリケーションを代表する専門的なエージェントを発表し始めています。例えばSalesforceは、タスクの自動化、データの分析、顧客とのやり取りのパーソナライズを通じてCRMを自動化するために、エージェントを活用しています。これらの現代的なAIエージェントは、LLMを用いて自然言語を理解し、応答するとともに、Web検索、コードの実行、API呼び出し、データ取得コマンドなどのツールをいつ、どのように呼び出すかを判断します。
AIエージェントの安全性とガバナンスのプロセス
その役割上、エージェントがツールを用いて世界と相互作用する際には、一定の自律性が求められます。コンテナ内でコードを実行するような場合には、その影響を管理し、封じ込めることができます。一方で、エージェントの自律的な行動による望ましくない結果を回避するために、一定レベルの精査と注意を払う必要がある場合もあります。エージェントの「頭脳」が本質的に不透明なニューラルネットワーク（すなわちLLM）であるという事実により、この問題はさらに複雑になります。LLMベースのエージェントは、幻覚を起こしたり、本質的に曖昧な自然言語によるコミュニケーションを誤解したりする傾向もあります。そのため、頑健性において得られるものが、一貫性において失われる可能性があります。
これらのリスクを低減するために、いくつかの緩和策が利用可能です。例えば、特定のエージェントの判断を無効化する、または人間の承認を求めるルールを実装すること、エージェントの行動の不確実性を評価すること、そして潜在的な危害を監視し防止するセーフガード・エージェントとエージェントを組み合わせることなどが挙げられます。
このように必要とされる監視を踏まえると、従来のソフトウェアとは異なる、エージェントベースのシステム向けのテスト体制が必要です。ただし、明るい材料としては、産業化の幕開け以来、人間が主導する組織やワークフローを運用してきたため、そのようなシステムのテストに私たちはすでに慣れているという点があります。
生成AIモデルの最先端技術では、単一のエージェントが大量の複雑な指示を効果的に処理し、多種多様で複雑なタスクを数多く実行することは困難です。コンテキストウィンドウの制約に加え、LLMの推論能力の限界があるため、責任を複数のAIエージェントに分割し、それらを接続して連携させ、業務を遂行させる方が効果的な場合が多くあります。
完全な機能を備えたCRMシステムの作成を1人のソフトウェアエンジニアに任せないのと同様に、AIエージェントに完全なCRMシステムのコード作成を求めることは、高いハードルとなる可能性があります。しかし、プロジェクト管理、フロントエンドおよびバックエンドのエンジニアリング、品質保証などの様々な責任を担うエージェントのチームを組み、協力して作業させる方が、業務を成功裏に完了させる可能性は高まります。
マルチエージェントAIの役割
マルチエージェントAI分野では、互いにコミュニケーションを取り、調整できるエージェントが求められます。これは、協力関係を意味するエージェントのチームという文脈である場合もあれば、信頼度が異なり、敵対関係にさえあるエージェントのチーム間である場合もあります。
ソフトウェアや組織の様々なワークフローを表現するマルチエージェントシステムには、生産性の向上、運用上のレジリエンス、堅牢性の向上、各モジュールのより迅速なアップグレードが可能になることなど、いくつかの興味深い利点があります。企業は単一エージェントのソリューションを急速に導入しつつあり、マルチエージェントシステムは避けられない、そして極めて破壊的な未来の姿と思われます。
LLMは自然言語を理解するため、そのままの状態で、エージェント間通信のための普遍的なプロトコルを備えていることになります。自然言語は意図を表現する柔軟性に優れており、LLMベースのエージェントは、そのような意図をツールの呼び出し方法へと対応づけることができます。その結果、将来のソフトウェアシステムは、現在のものよりもはるかに脆弱性が低くなるでしょう。機能を担当するエージェントが、意図を特定のAPI呼び出しへと対応づける役割を担うため、APIを変更したり、同様の機能を持つ別のソフトウェアを採用したりすることも、はるかに手間が少なくなります。これにより、組織はアップグレードやサードパーティのサービスにおいて、より大きな柔軟性を得られるようになります。
フォーラムがリーダーのAI理解と責任あるイノベーションへの協働をどのように支援しているか
AI卓越性センターは、急速に進化する人工知能と、それが経済や社会に与える影響を理解するために、各セクターのリーダーをつないでいます。AI導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支援しています。
信頼できる場と共同イニシアチブを通じて、センターはパートナーが共通理解を構築し、AIのイノベーションと利用に関する責任あるアプローチに協働して取り組めるよう支援しています。
エージェント間の通信と調整が、責任のカプセル化を保証する形で行われるならば、将来のエンタープライズアプリケーションははるかに堅牢になり、既存のエージェントのネットワークに対して、既存のシステムをほとんど、あるいはまったく再構築することなく、新たな能力や機能を導入できるようになります。
エージェントを用いて組織を強化するには、まず組織内の様々な関係者のプロセス、役割、責任を負うノード、および相互の接続関係を把握すべきです。ここでいう関係者とは、組織内で知識労働者として機能する個人やソフトウェアアプリを指します。
各エージェントのシステムプロンプトに自然言語で定義された役割と責任の一式に加えて、エージェントは、様々な引数を渡して呼び出せるツールを含む場合と含まない場合があります。例えば、プロダクトマネージャーのエージェントは、仮想のカンバンボード上で様々なチケットを処理できる必要があるかもしれません。あるいは、アラートのエージェントは、アラートシステムで様々なアラートを発信するために、ツールを呼び出す必要があるかもしれません。このことは、サードパーティ製エージェントの相互運用性が不可欠になり、組織がそれらをエージェントネットワークに組み込めるよう、各エージェントが従うべき標準が生まれる必要があることを意味します。
組織の様々な役割やワークフローを表現するマルチエージェントシステムには、サイロを打破し、時間とともに蓄積されて企業を縛り、効率を低下させる非効率性を明らかにする可能性があります。マルチエージェントプロセスの運用を観察することで、こうした問題を是正する手助けになります。
将来の組織の基盤は相互接続されたエージェントで構成されるでしょう。しかし、近い将来においては、文化や社会に根本的な変化が起こらない限り、人間が責任の唯一の担い手であり続けます。つまり、マルチエージェント化は、人間が高リスクの行動について最終的な裁定者および承認者となるように、管理され設計されるべきです。
