信頼、倫理、責任あるデータの取り扱いの役割は、これまで以上に重要になっています。
AIや生成AIを含むデータ分析ツールは、データを用いて結論を導き、洞察を生み出します。そのため社会は、データの不平等に対処するための有意義な方法を確立する必要があります。
テクノロジーへの依存が高まる世界において、信頼できる技術設計は不可欠であり、その根幹にあるのがデータの公平性です。
急速でデータ主導の世界において、信頼、倫理、責任あるデータの取り扱いの役割は、これまで以上に重要になっています。しかし組織は、人権を守りながら革新を進めるという差し迫った必要性に直面しており、その在り方はますます議論の的となっています。こうしたプロセスにデータの公平性を組み込むことの重要性は、何よりも大きくなっています。
デジタル時代においてすべての人は、普遍的で不可分かつ譲渡不可能な人権を持ち、それを享受する権利があります。私たちは、これらの権利を守るための基本原則としてデータの公平性を組み込むことに賛同し、その推進を提唱します。私たちは、イノベーションのプロセスにおいてデータの公平性に対処することで、すべての利害関係者の権利を守り、その間の信頼を確立できると考えています。
世界経済フォーラムは、人工知能に対するガードレールをどのように構築しているのでしょうか。
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを支援しています。また、AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支えています。
信頼できる場や協働的な取り組みを通じて、センターはパートナーが共通理解を築き、AIのイノベーションと活用に関する責任あるアプローチに向けて協力できるよう支援しています。
データの公平性を確保する方法
人工知能や生成AIなどの手法は、データを用いて結論を導き、新たな洞察を生み出します。そのため社会として、不平等に対処するための強固な方法を確立しなければなりません。データの公平性は、データ、分析手法、そしてデータセットや分析に必ずしも正しく反映されてこなかった人々への成果の適用における不注意によって、過去から現在に至るまで引き起こされてきた害に対応するための一連の行動を必要とする、避けて通れない課題です。
生じた害の多くは意図的なものではありませんでした。データが無関係な目的で収集されたり、古く信頼性の低い収集方法が用いられたりしたことで、社会が時間とともに成長し変化してきたことが反映されていないことがあります。残念ながら、データ分析やイノベーションに用いられるデータは、必ずしもその変化に追いついてきませんでした。こうしたずれに対しては、社会のすべての人にとって公正、公平かつ一貫した成果を生み出すために、データ専門家や社会科学者の注意が必要です。
信頼を確保し、害を抑えるためには、2つの行動が必要です。第一に、すべての人々に良い影響を与える望ましい成果を実現するには、イノベーションの目標を設計する段階で社会的影響を理解しなければなりません。対象となる人々からの助言を受け、社会規範を理解するとともに、分析のさまざまな側面が特定の人々にどのように影響し、あるいは見過ごされるかを十分に認識することで、特定のイノベーションプロジェクトは、解決を目指す課題において公平な成果をもたらすよう設計できます。
データの品質、一貫性、完全性、そしてデータセットの代表性を含むインプットのデータ主導の検証と、データ分析やアルゴリズムの構造を社会的情報と組み合わせることで、次のことが可能になります。分析、機械学習、人工知能によるより良いアウトプットの実現。このような包括的なアプローチは、成果における公平性を向上させるでしょう。
例えば、障害のある人々は、製品設計において歴史的に軽視されてきたことが知られています。特定のコミュニティからの適切な社会的意見を取り入れることで、異なる能力を持つ人々のニーズに応えるよう製品を設計できます。製品の目標が理解されれば、データ専門家は、入力情報とその品質、さらに用いる分析手法の両面において、分析の実施に必要な情報が十分に利用できるようにできます。これにより、より有益な検証と、結果におけるより包括的な成果が可能になります。
新たな枠組みの構築
このビジョンを実現するには、デジタルイノベーションに関わるすべての人々による変化が必要です。それは、潜在的な製品、ソリューション、またはサービスによって影響を受ける人々やコミュニティの多様性を反映した、より包括的な設計を確保するために、初期段階で適切な問いを投げかけるデジタル設計の新たな枠組みを作ることを必要とします。これらの枠組みは、デジタルおよび技術設計のプロセスにおいて公平性を確保するために必要なデータの種類を定義する助けとなります。さらに、個人のプライバシーやさまざまなコミュニティの文化的価値を尊重し、機密情報に対して必要なセキュリティを提供しながら、そのデータを収集する方法も必要とされます。
困難ではありますが、この取り組みは極めて重要です。それにもかかわらず、今日の個人や社会的に疎外されたコミュニティが経験する成果を変えるうえで、大きな価値を持つでしょう。機械学習や人工知能におけるバイアスに関する問題を軽減し、設計プロセスにおいて私たち一人ひとりがより注意深くなることにもつながります。
すべての設計の取り組みにデータの公平性を組み込むことで、コミュニティのテクノロジーへの信頼を高め、デジタル環境の進化に伴って多様な声が反映されるようにします。その結果、コミュニティや個人は技術設計のプロセスをさらに信頼するようになり、社会におけるテクノロジーの活用にも信頼が根付いていきます。デジタル世界が進化し変化し続けるなかで、自らが代表され、理解されていると確信できるようになるでしょう。
データの公平性を前もって確保しなければ、世界は既に代表されている人々のための設計を続け、期待された革新が多くの人々のニーズに応えられないことで、誤解、不信、分断を助長し続けるでしょう。私たちは、技術進歩の恩恵をすべての人が十分に享受する機会を無駄にし、より大きな分断、より低い信頼、そしてさらなる誤解と不信を生む世界への道を歩み続けることになるでしょう。テクノロジーへの依存が高まる世界において、信頼できる技術設計は不可欠です。私たちは、信頼はデータの公平性から始まると信じています。
