AIには、最新で正確かつ代表性のあるデータが必要だが、そのデータは同時に最も機密性が高く、厳しく規制されている。
合成データは学習に役立つが、正確なモデルを構築し個別の意思決定を行うには、依然として実データが必要である。
プライバシー強化技術（PETs）により、組織は実データを公開したり交換したりすることなく、そのデータから学習できる。
AIが金融、医療、不正防止の分野に広がるなか、議論の焦点はAIに十分なデータがあるかどうかではなく、適切なデータがあるかどうかである。
優れたモデルにより、貸し手は信用履歴のない人々を評価でき、銀行は不正をより早く検知でき、医療提供者はリスクをより早く特定できる。しかし、優れたAIモデルも、学習元のデータ次第でその質が決まる。最良のデータは、最新で、正確で、代表性がある。課題は、そのデータがしばしば最も機密性が高いことにある。
AIには、より豊富で、より新しいデータが必要である
有用なデータは、多くの場合、断片化されており、機密性が高く、組織をまたいで散在している。銀行は返済行動を把握し、小売業者は世帯の支出を把握し、通信事業者はデジタルサービスへのアクセスを把握しているかもしれない。それぞれが見ているのは、個人の生活のごく一部にすぎない。
AIにとっての価値は、これらのシグナル同士がどのように関連しているかにある。安全に組み合わせれば、いずれか単一のデータセットだけよりも正確に、財務的な回復力、脆弱性、不正リスク、または満たされていないニーズが明らかになる。
鮮度も重要である。行動、経済状況、不正の手口は絶えず変化しており、古い情報で学習させたモデルは、すでに変化してしまった世界に基づいて意思決定を行っている。
AIが最も必要とするデータは、最も入手が困難である
これらのデータセットを利用可能な形に統合することこそ、困難の始まりである。金融データからは所得、負債、脆弱性が明らかになりうる。医療データからは病歴が明らかになりうる。小売および通信のデータは、日常的な行動や嗜好を明らかにする。
こうした機密性があるため、たとえ目的が価値あるものであっても、実データを自由に共有することはできない。現在もほとんどのデータサプライチェーンは、第三者のシステム間でデータを複製・移転することに依存しており、そこでは漏えいが発生しうるほか、ある目的のために収集されたデータが後に別の目的で使用される可能性もある。根本的な問題は、一度共有されたデータは容易には共有を取り消せないことである。データは容易には共有を取り消せない。
規制には制約がある。目的制限とデータ最小化の原則により、ある目的のために収集されたデータは、たとえどれほど価値があっても、一般に別の目的に転用することはできない。障害は不注意にあるのではない。責任ある組織は、機密データを組織間で移動させることのリスクが便益を上回ると正しく判断している。
フォーラムがリーダーのAI理解と責任あるイノベーションでの協働をどのように支援しているか
AI卓越センターは、業界を越えてリーダーをつなぎ、急速に進化する人工知能と、それが経済および社会に与える影響を理解する取り組みを支援している。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づく対話を支援している。
信頼できる場と共同イニシアチブを通じて、同センターはパートナーが共通の理解を築き、AIのイノベーションと利用に対する責任あるアプローチに向けて協力することを可能にしている。
合成データで問題は解決できるか？
合成データ、すなわち実世界のデータセットのパターンを再現するように人工的に作成されたデータは、一見すると論理的な解決策に思える。データが実データでないなら、プライバシーの問題も消えるはずだ、という考え方である。しかし実際には、合成データには確かな役割がある。システムのテスト、シナリオの検討、稀な事例や極端な事例のストレステストである。ただし、リスクの高いAIの重責までは担えない。
合成データは既知のものを再現するにすぎず、実際のデータには存在するが、それを生成するために用いた前提には含まれていない、新たに現れた行動、予期しない相関関係、微妙な特徴を見逃す可能性がある。そこにもともと存在しなかったものを生み出すことはできない。合成データは実データから生成されるため、実データが乏しい箇所では、合成データも同じ箇所で乏しくなるが、その乏しさは目に見えない。ギャップや偏りは引き継がれる。
そして、学習することと意思決定することは同じではない。合成データのみで学習させたモデルであっても、意思決定の時点では、申請者、取引、患者を評価しなければならない。
ドイツ連邦財務省は、架空のデータは効果がないと主張し、税務当局が加工されていない実際の納税者データを使ってAIシステムを開発することを認める案を提案したと報じられている。批判派は懸念を表明している。プライバシーと機能の拡大（ファンクション・クリープ）についての懸念である。
合成データと実データのどちらを使うかは、ユースケース次第である。しかし、最も重要な意思決定の高い精度を求めるなら、実データが不可欠である。
PETsは実データをより安全に利用する方法を提供する
プライバシー強化技術（PETs）は、データ分析を容易にする一連の技術である。機密データを交換または公開することなく。
記録はトークン化された識別子を用いて照合されるため、2つの組織は、どちらも相手の顧客の身元を知ることなく、共通の顧客を特定できる。その後、分析は中立的な環境内で行われ、生の記録が相手方や運営者から見えることはない。環境から外部に出るのは、集計されたインサイト、モデルの特徴量、または個々の意思決定に対するスコアといった結果のみである。
PETsは、同意、説明責任、規制の必要性を取り除くものではない。しかし、現実世界のデータを協働で活用する際の中心的な障壁には対処する。
実践においてどのように見えるか
PETsは、機密データ分析という課題を解決するために、現在すでに利用されている。南アフリカでは、同大陸最大の食料品小売業者と主要銀行が食料品の買い物行動が信用力を予測できるかどうかを検証した。その際、消費者データは相互に共有されなかった。
匿名化およびトークン化されたデータセットは、プライバシー保護環境内で照合され、統合データを用いてモデルを学習させた。従来は信用から見えなかった800万人が評価され、320万人が、そうでなければ融資を断られていたはずの手頃な信用を受けられる資格を得た。また、食料品データを用いたモデルでは、精度が41%向上した。
これが可能になったのは、金融機関がPETsを通じて匿名化された食料品データにアクセスできたからにほかならない。使用された証拠のいずれも、どの銀行の記録にも存在せず、いかなる合成プロセスでも生成できなかったはずである。その行動は、意思決定を行う機関によって一度も観察されたことがなかったからである。データは存在していた。それは正当なプライバシー上の懸念のために、手の届かないところにあっただけである。
AIとデータの間の障壁はもはや技術的なものではない
PETsの導入は、コスト、複雑さ、共通標準の欠如によって遅れてきた。これらの障壁は、技術が成熟し、規制指針が明確になるにつれて、解消されつつある。
PETsは、既存のデータをより安全にアクセスし、協働できるようにするだけではない。モデルが最も弱い分野、すなわち、信用履歴の薄い消費者、新たな不正パターン、十分なサービスを受けられていない患者層において、そもそもどのデータを利用できるかの範囲を広げる。
より優れたAIは、より優れたアルゴリズムやより大規模なモデルだけに依存するものではない。それは、人々に自らのプライバシーを手放すよう求めることなく、人々に関する実データ、最新データ、代表性のあるデータにアクセスできることに依存している。プライバシー強化技術こそ、その両方を同時に実現する手段である。
