合成データ――実世界のデータを模倣するために人工的に生成された情報――は、データの空白を埋め、プライバシーを保護し、新たなシナリオの検証を可能にすることができる。
合成データと実データの境界は曖昧になりつつあり、重大なリスクとともに、新たで大きな機会も生まれている。
ビジネスリーダーは、合成データの利用を統制するために、堅牢なトレーサビリティおよび来歴管理の仕組みを構築し、監視とコンプライアンスを優先しなければならない。
かつてはデータの空白を埋めたり、プライバシーを守ったりするためのニッチなツールにすぎなかった合成データ（実世界のデータを模倣するために人工的に生成された情報）は、多くの業界における人工知能（AI）の活用を変革しつつある。実世界のデータが限られている場合や機微な場合に、拡張性があり費用対効果の高い代替手段を提供し、データの空白を埋め、プライバシーを保護し、新たなシナリオの検証を可能にする。
しかし、合成データの普及が拡大するにつれ、実データと人工データの境界が曖昧になり、信頼を脅かし、知識を歪め、システミックリスクを組み込んでいる。
合成データの活用機会は膨大であるが、成功のためには、強固なガバナンス、包括的で高品質なデータの実務、そして開発者、科学者、政策立案者、組織のリーダーの間での透明性の高い協働が不可欠である。
合成データの進化
合成データは、不完全性、バイアス、またはプライバシー規制のために、高品質で代表性のある実世界のデータが利用できない場合の解決策として登場した。必要なデータが単に存在しない場合に、特に価値を発揮するようになった。今日においても、合成データは、十分に代表されていない言語、健康状態、人口統計学的集団を対象とする実世界のデータセットを補完し続けている。言語、健康状態および人口統計学的集団。臨床試験から刑事司法、金融包摂に至るまで、さまざまな場面で公平性を高めている。臨床試験および刑事司法から金融包摂に至るまで。
しかし、合成データの状況は、初期の時代以降、飛躍的に拡大した。合成データはもはや必要に迫られた手段にとどまらず、イノベーションの原動力となっている。世界経済フォーラムの「データ・フロンティア」に関するグローバル未来評議会による最近の戦略ブリーフは、合成データを生成するための新たな手法の幅広さを取り上げており、それによって数多くの新しい応用分野が生まれている。戦略ブリーフ（世界経済フォーラムの「データ・フロンティア」に関するグローバル未来評議会）による最近の
都市環境全体を、現在では自動運転車のテスト用に再現することも可能となっており、例えば自動運転車企業のWaymoがこれを実施している。ByteDanceのようなメディア企業は、推薦システム用に大規模な新規合成学習データセットを生成することができる。医療分野では、合成患者データが、医療記録を公開することなく、治療計画を大規模に検証するために利用されている。
シミュレーションデータは、金融市場のストレステスト、気候変動の影響のモデル化、あるいはインフラ計画における「デジタルツイン」シナリオの実行のための管理された環境を提供し、特に強力なものとなっている。
合成データの新たな課題
この期待には新たなリスクも伴う。合成データは広範に存在し、現実的であり、AIシステムの形成において基盤的な役割を果たすため、正規のデータソースと区別がつかなくなる可能性がある。これにより、以下のようないくつかのリスクが生じる。
バイアスまたは誤りの増幅
合成データの生成に用いられる基礎データが偏っていたり不正確であったりする場合、特に合成データの生成過程に偏りがあると、その結果は不平等を軽減するどころか助長する可能性がある。この課題は、AIシステムの学習を目的としてデータセットが作成される頻度が高まっていることによって、さらに強まっている。
AIの自己消費（AI autophagy）
AIシステムがAIによって生成された出力を用いて学習されるにつれ、正確性と信頼性が低下し、コンピュータービジョンや自然言語処理などの分野における性能を損なう。生成AIにおける「モデル崩壊」として広く報告されている文脈にとどまらず、このリスクはより微妙な形で現れることもある。例えば、照明、動き、または重なり合う物体が現実的に描画されていない、急速に増加するAI生成の画像および動画データで学習すると、コンピュータービジョンシステムが損なわれる可能性がある。生成AIについて
信頼の侵食
ディープフェイクから、音声クローンによる身元盗用に至るまで、無許可の合成メディアは、データの真正性そのものに対する公衆の信頼を脅かす。人々が見たもの、聞いたもの、読んだものを信じられなくなれば、その影響は技術システムをはるかに超えて広がる。
これらのリスクは、既知のものではあるものの、AI生成データと実世界のデータを区別することの難しさによって増幅される。ガバナンスが脆弱である場合、合成データの利点は負債となる。
合成データのガバナンスに関する協働
組織が強固なガバナンス、透明性、そして複数のステークホルダーによる協働を優先すれば、合成データはより良い成果をもたらすことができる。成功のためには二つの世界を結びつける必要がある。すなわち、技術を構築し応用する開発者とエンドユーザーと、その利用を形作る経営幹部、法律専門家、政策アドバイザーである。各ステークホルダーは、他の誰も果たすことのできない固有のガバナンス上の役割を担っている。
開発者とエンドユーザーは、例えば、合成データセットを生成するモデルの品質と透明性を高めたり、電子透かしやデータセット栄養表示などの保護措置を推進したりするなど、より強固な技術的ガバナンスを推進することができる。
しかし、優先して取り組むべき最も重要な施策は、データのトレーサビリティへの投資であると言えよう。堅牢な来歴管理の仕組みにより、組織は合成データがいつ、どのように導入されたかを特定でき、説明責任の確保に役立つとともに、バイアスやAIの自己消費といったリスクを低減できる。遡及的な追跡には高いコストがかかるため、堅牢なデータ来歴管理の仕組みへの先行投資は、企業にとって優先課題とすべきである。
合成データのガバナンスを優先する
しかし、よくあることだが、技術的ガバナンスだけでは不十分である。経営層および政策上のリーダーシップは、合成データのガバナンスを、より広範なAIガバナンスの問題に組み込むのではなく、それ自体を戦略的優先事項として扱わなければならない。
各組織は、次を含む、合成データのガバナンスに対する個別に調整されたアプローチを追求すべきである。
合成データおよびシミュレーションデータの固有の特性を認識する、文脈を考慮した標準を策定すること。
進化する枠組みとの整合性を確保するため、プライバシーおよびAIの規制当局と緊密に協働すること。
機会、リスク、およびベストプラクティスについて、組織内での教育を推進すること。
既知のリスクを軽減しつつ合成データの利点を実現することは、エンジニア、政策アドバイザー、経営幹部、ユーザーが協働的かつ先見的に取り組むべき共通の責任である。これらの関係者が協力することで、この新世代の合成データが持つ膨大な可能性を安全に引き出す未来を実現することができる。
