インテリジェント時代において、デジタル信頼はあらゆるテクノロジー組織の中核的な要素です。
世界経済フォーラムのデジタル・トラスト・フレームワークは、意思決定者を支援するために設計されました。
テクノロジー戦略の4人のリーダーに、説明責任と監督をどのように推進しているかを聞きました。
インテリジェント時代において、テクノロジーが日常生活に影響を与えるようになるにつれ、デジタル信頼の重要性が高まっています。世界経済フォーラムのデジタル・トラスト・フレームワークは、意思決定者が3つの中核的な目標、すなわち安全性と信頼性、説明責任と監督、包摂的・倫理的かつ責任ある利用を軸に据えることで、社会的信頼を築けるよう作られました。
本シリーズの第2回では、説明責任と監督に焦点を当てます。これは、明確に定義され、明確に割り当てられた特定のステークホルダー、チーム、または機能を通じて、組織が信頼性への責任を負うことを求めるもので、失敗への対処のための規定も含まれます。さらに、規則、基準、プロセス、慣行が必要に応じて遵守され、実行されることを確保します。
これを達成するには、次の3つの側面が重要です。
透明性: デジタル業務と利用に関する誠実さと明確さが求められます。組織のデジタルプロセスを可視化することで、組織とそのステークホルダーの間の情報の非対称性が減少すると同時に、組織が個人の利益のために行動するだけでなく、その行動を組織の内外の人々にとって明らかで理解しやすいものにする意図があることを個人に示すことができます。
救済可能性: は、個人、集団、または主体が、技術的プロセス、システム、またはデータの利用によって悪影響を受けた場合に、救済を求める可能性があることを意味します。意図しない誤りや予期しない要因が予期せぬ損害を引き起こしうることを理解した上で、信頼できる組織は、救済が求められた際に実効性のある是正の方法を備え、損害を受けた個人を元の状態に戻すための仕組みを整えています。
監査可能性: は、組織と第三者の双方が、技術、データ処理、ガバナンスプロセスの活動と結果を検証し、確認できる能力です。監査可能性は、組織の約束事に対するチェックとして機能し、それらの約束事を確実に履行する組織の意思を示すものです。
信頼できるインテリジェント技術の開発と展開は、共同の責任です。そのため私たちは、世界各地から集まった40名の多様な上級戦略リーダーで構成される、フォーラムのICT戦略責任者コミュニティのメンバーに、フォーラムのデジタル・トラスト・フレームワークの原則を導入する際の経験や知見を尋ねました。
説明責任と監督の推進について、一部のメンバーが語った内容は以下のとおりです。
Vivek Mohindra、SVP企業戦略、Dell Technologies
AIは共同の責任です。これは、AIモデルがどのように意思決定を行うかについての透明性と説明責任に関して、特に当てはまります。公正で効果的かつ信頼できる結果を確保するためです。Dellでは、当社の戦略と基本的な信条に根ざした、リスク管理への全体的なアプローチを採用しています。当社は業界の中でも早くから最高AI責任者を任命し、事業横断的なガバナンス委員会を通じて監督を実務に落とし込んできました。
私たちは、データがどのように利用され、モデルがどのような行動を促すかを検証し、透明性と説明可能性を組み込むことで、説明責任と監督を最優先事項として維持しています。これを踏まえ、データセンターからPCに至るまでIT環境全体で最も責任ある手法を用い、優先的なAIのユースケース全体を基盤として、事業成果を達成しています。
AIシステムがますます普及し、説明責任と監督を推進する取り組みを強化する中で、批判的思考や共感といった、人間ならではの資質を重視することが重要です。
Vivek Mohindra、SVP企業戦略、Dell Technologies。
一例として、ソフトウェア開発があります。当社はエンジニアに対し、既存の開発フレームワークやツールの全体で説明責任を確保するため、コードアシスタント技術の責任ある利用について研修を行いました。これには、コードレビューのプロセスや、コードのセキュリティと品質に関する様々な統合的な検証スキャンが含まれます。
AIシステムがますます普及し、説明責任と監督を推進する取り組みを強化する中で、批判的思考や共感といった、人間ならではの資質を重視することが重要です。人間とAIのパートナーシップが協働することで、長期的に最も強固で安全な成果がもたらされるでしょう。
Christopher Young、事業開発・戦略・ベンチャー担当EVP、Microsoft
私たちは、信頼は行動によって得られると考えています。インテリジェント技術の開発と展開における説明責任と監督への当社の取り組みは、この信念を反映したものです。当社は2016年から責任あるAIに取り組んできており、生成AIが2022年に台頭するずっと以前からのことです。
当社の責任あるAI標準 は、AI開発のライフサイクル全体において、文脈に応じた思慮深い判断を下す際のチームの指針となります。標準とガバナンスの枠組みは、言行一致が伴って初めて機能します。責任あるAIには全社員が役割を担っていますが、当社には、これらの標準の策定と実施に関して助言し監督するため、責任あるAI室や、工学・研究におけるAIの倫理と影響に関する委員会（Aether）などの統治機関もあります。
標準とガバナンスの枠組みは、言行一致が伴って初めて機能します。
Christopher Young、事業開発・戦略・ベンチャー担当EVP、Microsoft。
一例はMicrosoft Security Copilotです。これはAIを活用したソフトウェアで、膨大なデータシグナルを要約して重要な知見を得ること、サイバー脅威が害を及ぼす前に検知すること、顧客のセキュリティ態勢を強化することを支援します。当社の責任あるAI標準に基づいて開発されたSecurity Copilotは、主要なリスクを特定して軽減し、セキュリティ専門家が要求した場合にのみ、潜在的に有害なコンテンツが表示されるようにしています。段階的なリリース期間中の継続的な監視を通じて、チームは責任あるAIに関する課題を週単位で整理し、対処しました。このアプローチと専門家による検証を組み合わせた結果、安全で透明性が高く、信頼できる生成AI製品が実現しました。
こうした取り組みを行っていても、AIの進歩の動的な性質とその速いペースが、継続的な課題をもたらしていることを私たちは認識しています。そのため、責任あるAI標準は柔軟な方法で設計し、成果に基づくものとして、あらゆる規制を開発サイクルに組み込めるようにしました。また、科学に基づく安全性およびセキュリティのテストと標準の進展を促すため、世界的なAIの安全性・セキュリティに関するフォーラムにも参加しています。私たちは、革新的であるだけでなく信頼できるAIを開発するという公約に引き続き取り組んでおり、その過程において透明であり続けます。
フォーラムがリーダーの最先端技術と現実の課題の結び付けを支援する方法
最先端技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを集め、新興技術とその現実社会への影響を理解することを支援しています。
このセンターは、協働と実験を可能にすることで、研究から得られたイノベーションを、世界共通の課題に対応する実用的な応用へと転換する取り組みをパートナーに提供しています。
Steve Rudolph、VP戦略・変革担当、Pegasystems
AIの説明責任と監督は不可欠であり、多くの組織がAIのユースケースを特定し、リスクを軽減するためのガバナンスチームを設置しています。しかし、これらの原則がプラットフォームに深く組み込まれていなければ、ガバナンスを支えるための適切なデータやツールが備わらないため、効果を発揮できなくなります。
Pegaがクライアントの有意義な監督の実現を支援する方法は、次の3つです。
意思決定: AIは機械学習だけにとどまらず、効果的な意思決定は、機械学習に基づく予測とビジネスルールやポリシーを組み合わせて、意思決定戦略にまとめ上げます。これにより組織は、個々の意思決定のレベルまで、顧客やステークホルダーの利益とビジネス目標、ポリシーとのバランスを取ることができます。
これらの原則がプラットフォームに深く組み込まれていなければ、ガバナンスを支えるための適切なデータやツールが備わらないため、効果を発揮できなくなります。
Steve Rudolph、VP戦略・変革担当、Pegasystems。
シミュレーションと能動的な監視: モデル設計時の洞察だけでは不十分です。特に毎日数千万件もの意思決定が行われる場合には、モデルとロジックのエンドツーエンドの継続的な監視が極めて重要です。クライアントは倫理的バイアスチェックを用いて意思決定ロジックをシミュレーションでき、新しい意思決定やロジックをリリースする前に、次に最適なアクション戦略におけるバイアスを先回りして検出できます。これには、一般的なビジネス目標や顧客目標、またはリスク管理に対するパフォーマンスの追跡も含まれ、問題が生じた場合にはリアルタイムのアラートや自己修正の仕組みも備えています。
説明可能なAIと監査: 説明責任のためには、データサイエンティストだけでなく、分野の専門家であるエンドユーザーや顧客もAIの意思決定や生成AIの出力を理解すべきです。融資の否決や保険金請求の調査など、行動の背後にある理由を明確にすること、あるいは生成AIの回答がどのような根拠に基づいているかを説明することは極めて重要です。さらにPegaは、入力内容や使用されたロジックを含め、意思決定と生成AIの呼び出しおよび応答の監査証跡(例: プロンプトと回答の履歴)を保持し、透明性と自動化された結果に異議を申し立てる権利の確保を支援しています。
フォーラムがリーダーのAIの理解と責任あるイノベーションにおける協働を支援する方法
AI卓越性センターは、急速に進化する人工知能と、経済や社会に与えるその影響を理解するため、セクターを超えてリーダーをつなぎます。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づいた対話を支援します。
信頼できる場や共同のイニシアチブを通じて、このセンターはパートナーが共通の理解を築き、AIのイノベーションと利用に対する責任ある取り組みについて協働することを可能にしています。
Nitesh Aggarwal、最高戦略責任者、Tech Mahindra
私たちは、主要なステークホルダーの信頼を築くため、説明責任と監督の原則を適用することに尽力しています。このコミットメントは、インテリジェント技術の開発と展開へのアプローチに表れており、あらゆる段階に倫理的配慮が組み込まれるようにしています。
厳格なガバナンスの枠組みと専任の委員会を通じて説明責任と監督の原則を適用することで、すべての技術開発が倫理基準とステークホルダーの期待に沿うようにしています。また、高水準の誠実さと透明性を維持するため、定期的な監査とレビューも実施しています。
説明責任と監督の原則を適用すること … により、すべての技術開発が倫理基準とステークホルダーの期待に沿うようになります。
Nitesh Aggarwal、最高戦略責任者、Tech Mahindra。
このコミットメントの一例はMakers Labです。最先端技術が開発されるイノベーションのハブです。すべてのプロジェクトは、導入前に厳格な倫理的審査を受けます。例えば、同ラボのAIを活用した医療ソリューションは、患者データのプライバシーと、世界的なデータ保護規制への準拠を確保するため、徹底的な精査の対象となります。このプロセスは、技術の信頼性を高めるだけでなく、ユーザーやステークホルダーとの信頼関係の構築にもつながります。
救済可能性も、もう一つの重要な側面です。米国を拠点とするテクノロジー顧客に対して、当社はステークホルダーの懸念や苦情に対応するための強固な仕組みを整備しました。これには、専任のサポートチームや、問題を迅速かつ効率的に解決するための明確なエスカレーション経路が含まれています。
しかし、私たちが直面する最大の課題は、技術の進歩の動的な性質です。これは既存の倫理的枠組みや規制を上回る速さで進む可能性があります。これらの変化に先んじるには、絶え間ない注意と適応力が求められます。産業団体や規制当局と協力し、イノベーションの速度に追いつくようガイドラインを形成・更新することが重要です。
