テクノロジーが人々と地球のために機能するようにし、組織はデジタルへの信頼を得るために取り組まなければなりません。
世界経済フォーラムのデジタル信頼フレームワークは、意思決定者を支援するために設計されました。
テクノロジーの包摂的、倫理的かつ責任ある利用をどのように推進しているのか、技術戦略のリーダー5人に聞きました。
世界経済フォーラムのデジタル信頼フレームワークは、意思決定者が次の3つの目標に向けて足並みをそろえられるよう支援するために策定されました。安全性と信頼性、説明責任と監督、包摂的、倫理的かつ責任ある利用です。
このシリーズの第3回では、私たちの生活をますます大きく左右するデジタルテクノロジーの、包摂的、倫理的かつ責任ある利用に焦点を当てます。私たちが日々接する製品やサービスの開発と導入を信頼できることが欠かせません。そのため、テクノロジー業界はデジタルへの信頼を念頭に、すべてのステークホルダーの期待や価値観を考慮しなければなりません。
つまり組織は、すべての人々、社会全体、自然環境、その他のステークホルダーに対する受託者としてテクノロジーとデータを設計、構築、運用し、幅広いアクセスと利用を実現する必要があります。それによって倫理的に責任ある成果が得られます。また、この目標には、排他的な慣行やその他の害を防ぎ、軽減するために取り組むことも含まれます。
この実現には、次の3つの側面が重要です。
相互運用性：情報システムが過度な負担や制約なく接続し、相互利用のために情報を交換できること。
公正性：組織のテクノロジーとデータ処理において、異なる影響が生じる可能性を認識し、状況や期待に応じて、すべてのステークホルダーに公正で公平な成果をもたらすことを目指す必要があります。
持続可能性：組織は、気候、生物多様性、水系を含む自然環境への影響を考慮し、これらのシステムへの害を抑えることを目指さなければなりません。
「インテリジェント時代の信頼」に関する記事を踏まえ、世界経済フォーラムのICT戦略責任者コミュニティに、包摂的、倫理的かつ責任ある利用をどのように推進しているのかを尋ねました。このコミュニティは、テクノロジースタック全体で特に関連性の高い企業に属する、現役の上級戦略リーダー40人で構成されています。
その一部をご紹介します。
エウジェニオ・カッシアーノ、戦略・イノベーション担当上級副社長、Celonis
「プロセスインテリジェンス」（PI）であれAIであれ、Celonisは高性能であるだけでなく、責任あるインテリジェントシステムの構築に取り組んでいます。
当社は、体系的なAIガバナンスモデルに従っています。このモデルは公正性、透明性、説明責任の原則に基づき、社内でのAI利用と顧客に提供するAIソリューションの両方に適用されます。これを実践するため、複数のプロセスを設けています。プロセスを監督するガバナンス委員会は、法務、倫理、エンジニアリングと開発、データセキュリティ、データプライバシーの専門知識を持つ学際的なチームです。この専任委員会はガイドラインの策定に積極的に関与し、AIの取り組みが世界的な基準とCelonisの企業価値に沿うよう徹底しています。
AIは現代生活の多くの側面、もしかするとほぼすべてに影響を及ぼす、真に変革的なテクノロジーです。しかし、重要なのはAIが何をするかだけでなく、どのようにそれを行うかです。
エウジェニオ・カッシアーノ、戦略・イノベーション担当上級副社長、Celonis。
Celonisでは、技術の進歩と倫理的配慮の両方が、リスクを軽減し、AIの責任ある利用を確保するために必要だと考えています。
ラヴィ・クチボトラ、最高戦略責任者、Cognizant
AIがビジネスや社会を変革し続ける中、強固なデジタル信頼の枠組みを確立することが不可欠です。その枠組みは相互運用性を優先し、システム間の連携が不十分な場合に生じがちな誤解を防ぐものでなければなりません。その重要な柱の一つが公正性です。すべての人に倫理的で透明性があり、偏りのない対応を確保することを意味します。そのためには、監査可能で、多様な視点を反映でき、運用が完全に透明なAIシステムを設計する必要があります。
公正性、性能、透明性、包摂性を最適化するマルチエージェント・オーケストレーションを活用し、当社のNeuro Suiteプラットフォーム群は、いずれか一つを過度に優先することなく、これらの目標のバランスを取ります。これにより偏りを減らし、意思決定の透明性と解釈可能性を確保し、公平な成果を促進します。当社のプラットフォームを利用すれば、監査可能で偏りのないAIアプリケーションを顧客が導入できます。バリューチェーン全体に公正性を行き渡らせ、テクノロジーの完全性への信頼を高めます。
当社のプラットフォームを利用すれば、監査可能で偏りのないAIアプリケーションを顧客が導入できます。
ラヴィ・クチボトラ、最高戦略責任者、Cognizant。
残された大きな課題の一つは、AI開発に技術者以外の声を取り入れ、社会のあらゆる層が先端技術の導入に参加できるようにすることです。有望な分野として、UXとUIの開発があります。生成AIの進化に伴い、UX/UI開発者の役割は変わるかもしれません。しかし、人文系の素養を持つ非STEM分野の専門家が、倫理的な意思決定とユーザー中心の設計をますます導くようになるでしょう。これは、すべての人にとって公正で包摂的なシステムをつくるうえで重要です。
ガネーシャ・ラシア、最高戦略責任者、HP
生成AIの急速な普及と大規模言語モデルの利用により、信頼を損ないかねない潜在的なリスク領域が生まれています。最も大きな問題は、透明性の欠如です。
現在、生成AIモデルの判断の基盤となるアルゴリズムやデータセットは、ほとんど明らかになっていません。ユーザーは、出力が正確か、論理的か、倫理的かを判断しにくい状況です。歪んだデータや差別的なデータは意図しない害をもたらし、人間の偏見を助長して社会全体に壊滅的な影響を及ぼすおそれがあります。AIには知的財産を管理する仕組みも不完全なままです。
公正性、プライバシー、倫理を守るため、組織はガイドラインを策定し、徹底しなければなりません。
ガネーシャ・ラシア、最高戦略責任者、HP。
課題の一つは、データをどのように、誰から取得し、どのように出所を確認するかです。もう一つは、AI生成コンテンツの所有権です。コンプライアンスとガバナンスは極めて重要ですが、こうしたプロセスはAIの利用に追いついていないことがよくあります。
そのため組織は、公正性、プライバシー、倫理を守るための明確なガイドラインを策定し、徹底しなければなりません。そうすることで、従業員と顧客の双方の利益のためにAIを活用できます。HPでは、AIの責任ある利用を推進するため、一連のAIガバナンス原則を採用しています。これらの原則は、ゲート機構、指針、教育ツール、規制委員会など、明確に定めたプログラムとプロセスを通じて実践しています。
フォーラムは、リーダーがAIを理解し、責任あるイノベーションに協力できるよう、どのように支援しているのか
AIエクセレンスセンターは、さまざまな業界のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に及ぼす影響を理解するための場を提供しています。また、AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づいた対話を支援します。
信頼できる場と協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと利用に関する責任あるアプローチに協力して取り組めるようにします。
アン・マリー・ラヴィーン、戦略的イニシアチブ担当副社長、Snowflake
AIが現代の事業戦略の基盤となる中、一つの真実がはっきりしてきました。強固なデータ戦略なくして、企業のAI活用は成功しません。データ戦略がサイロ化していても、同じように効果を発揮できません。IDC Market Researchによると、サイロ化したデータや不正確なデータは、企業の年間売上高の最大30%に相当する損失をもたらす可能性があります。一方、Gartnerの報告では、組織はデータの最大97%を活用できず、成長の大きな機会を逃しています。
企業は統合データプラットフォームの必要性をますます認識していますが、すべての組織がデータとガバナンスを一元化できるわけでも、望んでいるわけでもありません。そこで重要になるのが相互運用性です。責任あるデータアクセスと人間による監督を確保し、日々の意思決定から高度なAIアプリケーションまでを支えます。
すべての組織がデータとガバナンスを一元化できるわけでも、望んでいるわけでもありません。そこで重要になるのが相互運用性です。責任あるデータアクセスと人間による監督を確保します。
アン・マリー・ラヴィーン、戦略的イニシアチブ担当副社長、Snowflake。
Apache Icebergのようなオープン形式やクラウド横断型のガバナンスを推進することで、Snowflakeは堅牢で信頼性の高いモデルに向けた、シームレスなデータ共有と監視を可能にしました。
その好例が、ノルウェーのスタートアップ企業Völurです。当社の相互運用性機能により、安全なデータ共有が可能になり、サイロが解消され、新たな収益源を生み出すAIイノベーションが促進されました。これが未来の姿です。相互につながり協働するデータエコシステムが、公正で透明性の高いAI主導の変革を加速させます。
データ連携、相互運用性、統合ガバナンスにおける当社のリーダーシップは、より包摂的で安全かつ責任あるデータ利用の基盤を築き、AIの可能性を最大限に引き出す道を開いています。
マリナ・マルティン・ガルシア、コーポレート戦略責任者、Telefónica
テクノロジーの包摂的、倫理的かつ責任ある利用は、私たちが下すすべての決定の中核にあります。私たちは長年、データ保護を提唱し、データの利用方法についてユーザーが管理し、透明性を得られるようにしてきました。デジタルへの信頼は、顧客への約束の重要な要素です。
当社のAIに関する指針は、人間中心のアプローチに基づき、透明性、公正性、持続可能性を備えたインテリジェントテクノロジーを開発することを定めています。革新的な液浸冷却技術を通じてデータセンターのカーボンフットプリントを最小限に抑えるなど、環境の持続可能性にも強く取り組んでいます。また、Kiriなどの社内ソリューションの開発も進めています。これらはTelefónicaがAIやビッグデータの活用におけるカーボンフットプリントを抑えられるよう、十分な情報に基づいた意思決定を支援します。最適な実行時間の提案、環境負荷の低いクラウド拠点の提示、リソース配分の指針を提供します。
通信事業者に対する消費者の信頼を生かせば、潜在的なリスクを機会に変え、この業界をデジタル信頼のリーダーとして位置づけることができます。
マリナ・マルティン・ガルシア、コーポレート戦略責任者、Telefónica。
相互運用性も当社のアプローチの重要な要素です。当社のデジタルエコシステムであるKernelは、オープンソース標準を基盤とし、プライバシー・バイ・デザインを組み込んで、すべての製品でユーザーデータを保護します。プライバシーは全社横断的に管理され、各チャネルやサービスで法的要件を確認できるようにすることで、適切な法的根拠に従わずにデータが公開されることのないよう徹底しています。
通信事業者は歴史的に、消費者から最も信頼される業界の一つに数えられてきました。今問われているのは、この信頼をどう生かし、デジタルの安全確保に向けた取り組みを示して、業界をデジタル信頼のリーダーとして位置づけるかです。そうすることで、業界全体にとって潜在的なリスクを大きな機会へと変えることができます。
