人工知能（AI）技術の台頭により、人工的な動画、音声、画像を含むディープフェイクコンテンツの利用が広がっている。
ディープフェイクには多くの否定的な事例があるものの、そうした合成コンテンツには利点をもたらすこともできる。
合成コンテンツについて共に学ぶことで、危険なディープフェイクを見分けると同時に、この技術の前向きな活用事例を生み出すことができる。
「見ることは信じることである」とはよく言われてきたが、そこにディープフェイク技術が登場した。かつて写真、動画、音声記録は、何かが実在することの証明としての確かな基準であった。しかし、現実的に見えるが偽物であるメディアを作成できる新たな人工知能（AI）モデルは、人々がコンテンツを信頼するか否かを判断する方法におけるパラダイムシフトを示している。
ディープフェイクという用語は、デジタル上の捏造としてのみ存在する、人工的に生成されたテキスト、音声、画像を指す。「ディープ」ラーニングと「フェイク」な出力を組み合わせたものである。この部分集合は合成コンテンツとして何年も前から発展してきたが、大規模言語モデル（LLM）やその他の種類の生成AIの登場により、技術的な知識をほとんど必要としない無料かつ低コストのアプリケーションが広がった。インターネットに接続できる者は誰でも、今や合成データ生成器の鍵を手にしている。
もちろん、この魔人は壺から出てしまっており、たとえ望んだとしても元に戻すことはできない。しかし、この技術の否定的な利用に対する性急な反応、例えば全面的な禁止やイノベーションの意図的な「停止」では、問題は解決しないだろう。AIの多くと同様に、合成コンテンツは倫理と信頼が流動的な過渡期にある。
現在、私たちは合成コンテンツの激流の一方の岸にいるが、未来はもう一方の岸にある。私たちは、流されることなく、被害を最小限に抑えつつ利益を最大化する橋を架けなければならない。建設はすでに始まっており、政策立案者、企業のリーダー、技術者、その他の関係者の課題は、社会が安全に渡河できるよう支援することである。これは、この技術が一般的で、馴染みがあり、信頼できるものとなる段階に到達することを意味する。
問題はどのようにしてか。
ディープフェイクを超えて
著名なディープフェイクの事例は、すでに悪しき結果をもたらしている。高校生が同級生の露骨な画像を作成することや、著名なジャーナリストの人工的な動画や音声を用いて視聴者を誤解させるよう設計された事例、そして米国防総省への攻撃の偽画像が、株式市場を一時的に下落させた事例などがある。人々はこれらのリスクを認識している。2023年の調査では、米国人にAIに関する懸念を尋ねたところ、60%がディープフェイクについて「非常に懸念している」と回答した。これは社会に対するその他のAIリスクよりも高い割合である。
しかし、合成メディアに有効かつ有益な応用の可能性を見いだす提唱者や革新者は、最も悲観的な予測に異を唱えている。一部の企業は、提供している「サービスとしてのディープフェイク」という形態のビジネスモデル。映画制作者やコンテンツクリエイターは恩恵を受けうるが、言語翻訳のようなより創造的な応用もある。ミュージシャンのFKA twigsは、自身のディープフェイクを作成しており、それは彼女の声のトーンを用いて異なる言語で話すことができる。それほど華やかではないものの、合成データは、AIの学習において人間のデータの代替として活用が模索されてもいる。
このような現在の合成コンテンツへのアプローチは、機会とリスクの両方を示している。しかし、私たちはさらに大きく、長期的に考える必要もある。合成コンテンツ生成器がさらに現実的で、安価かつ利用しやすくなる未来を創るためである。合成コンテンツからリスクを取り除き、その利益を拡大する唯一の方法は存在しない。これまでの技術と同様に、社会の信頼を得られるかどうかは、合成コンテンツがどのように利用され、その開発を取り巻くガードレールがどのようなものかにかかっている。
合成コンテンツをめぐる責任の領域
合成コンテンツを信頼できる方法で形作り、利用する責任は、複数の主体の間で共有されなければならない。
第一に、 テクノロジー企業は、どのようなツールを構築し、公開するかを決定するため、その判断は重要である。例えば、悪用の可能性を認識しながら音声クローンツールを展開することは、責任ある判断といえるだろうか。これは、世界人口の半数が投票を行う民主的な選挙が行われる年において、特に重要な問いである。
民間セクター全般もまた、果たすべき役割を持っている。合成コンテンツは、パーソナライズされた顧客エンゲージメントから、従業員のリモートでのエンゲージメントの支援に至るまで、民間企業にとって幅広い用途がある。しかし、顧客がこの技術の利用方法に欺かれたと感じたり、従業員が自身の仕事や幸福への脅威を感じたりすれば、信頼に影響が及ぶだろう。
NGO、非営利団体、慈善団体、その他の社会貢献型組織も、合成コンテンツの商業的応用が、公平性、機会へのアクセス、技術に対する信頼、そしてリテラシーの推進にどのように役立つかを検討することができる。このグループの課題は、すべての人々に等しく社会的価値をもたらしうる合成コンテンツの用途を再構想することである。
立法者と規制当局も、合成コンテンツに関して重要な立場にある。彼らは、審議できる速度よりも速く変化している技術に関するルールを策定しなければならない。複数の階層にわたる政府機関は、合成コンテンツの利用を統制するために、法律を制定（または既存の法律を再適用）しようとしている。しかし、場当たり的で断片的な立法アプローチは、常に後追いで一貫性を欠く場合、十分な効果を発揮できないおそれがある。政策立案者は、この急速に進化する技術を統治するために、調整された戦略的なアプローチを取らなければならない。
最後に、一般市民には二重の責任がある。第一に、この技術ができることを理解するために、AIリテラシーを身につけなければならない。これは、人々がメールの詐欺や悪意あるダウンロードに注意することでサイバーセキュリティに参加するようになった経緯と大きく変わらない。第二に、一般市民は、この技術を生産的に活用する責任を認識する必要があり、そのためには教育が必要である。これは、親が子どもに教え、雇用主が従業員を教育し、公的な立場にある人々が一般市民に情報を提供することを意味する。
各主体は、総体として、将来において合成コンテンツが私たちの信頼に値するかどうかを決定する一連の判断に直面している。ディープフェイクの橋を共に渡ることで、合成コンテンツの信頼できる未来を創ることができる。
