「ディープフェイク」をめぐる騒ぎに気づいたかもしれません。「ディープフェイク」の脅威。これは「合成メディア」と呼ばれるものの一形態で、AIや機械学習の進歩を利用して、写真、動画、音声トラックの要素を変更したり、人の声や顔を生きているかのような巧妙さで再現したりします。誰かの顔や声が偽物かもしれないという不穏な考えや、どの動画や写真も信用できないかもしれないという状況は、現実に対する私たちの信頼を揺るがします。
これまでのところ、ディープフェイクは、数少ない事例でジャーナリストの信頼性を攻撃するために使われてきました。また、本人の同意なく有名人をポルノコンテンツに取り込む目的でも広く使われています。しかし、政治的議論を混乱させたり、国家安全保障を損なったり、人権調査を混乱させたり、企業や市民社会団体を攻撃したりするような、より広範な悪意ある利用は、まだ広がっていません。「嵐の目」に入る前の今こそ、脅威に対して先手を打ち、過度に警戒せずに対処する機会があります。ディープフェイクについては、パニックになるのではなく、備えるべき時です。
これが、私が次の取り組みを主導している理由です。人権団体であり、映像と技術が持つ善の力に焦点を当てているWITNESSで、主要な関係者を集めて現実的なアプローチを開発することです。最近、技術者、業界関係者、研究者、人権調査員、ジャーナリストをつなぐ史上初の専門家会合を開催し、解決策の形成に取り組みました。その内容はここで共有しています。
なぜディープフェイクが重要なのでしょうか。私たちの文化はますます画像を中心に構成されています。私たちはSnapchatやInstagramで生活を記録し、YouTubeを百科事典のように利用しています。WITNESSでは、不正や免責を明らかにする上でこれがどれほど重要かを目の当たりにしてきました。シリア内戦を記録する市民ジャーナリストや活動家から、ブラック・ライブズ・マター運動が警察の暴力に関する視覚的証拠を中心に結集したことに至るまで、その例は多岐にわたります。それでも私たちは、偽の画像と事実を見分けたり、記憶の中で捏造と現実の記憶を区別したりする認知能力は十分ではありません。一方で、大規模なファクトチェックや検証の仕組みは、偽の音声、画像、動画への対応をようやく始めたばかりです。
ディープフェイクへの取り組み方
まず、既存の取り組みを基盤にする必要があります。人権やジャーナリズムの分野では、オンラインで見つかる画像の真偽や情報源の信頼性を検証するために用いられる、オープンソース・インテリジェンス（OSI）と呼ばれる手法が広く実践されています。これは、過去10年間のいわゆる「シャローフェイク」の経験を土台としています。WITNESSのMedia Labは、この問題について継続的に調査を行ってきました。「シャローフェイク」の例としては、欧州の難民を中傷するための動画への音声操作、メッセージングアプリで共有され、地域社会の暴力を扇動する文脈を誤って伝える動画や、「デジタルの山火事」を引き起こすもの、戦争犯罪の調査を妨害するために意図的に改変された動画などがあります。
私たちは、ディープフェイクを検出する新たなツールを開発している研究者と、世界中の編集局でOSIの手法を用いるジャーナリストをつなぐ必要があります。今後の選挙でこうした操作ツールの利用を懸念するのであれば、現在ブラジルで進められているComprovaプロジェクトのように、企業間で誤情報の防止に取り組む活動を支援する必要があります。また、編集局同士も互いに支え合い、「もっともらしい否認」という有害な脅威に対抗し続ける必要があります。これは、ディープフェイクの存在を「あなたが見たり聞いたりするものは何も信じられない」という主張の武器として利用するものです。
次に、ディープフェイクに対抗するために目指す技術基盤について、適切な問いを投げかけることが重要です。ディープフェイクへの一般的な対応策の一つは、すべての画像に明確な来歴を持たせることです。これには、初出の情報源までさかのぼれることや、加えられた編集を検証できることが含まれます。この解決策では、ブロックチェーンやその他の分散型メディア台帳の利用がよく取り上げられます。
原則としてはこれは良さそうに聞こえますが、実際には、その方法について深刻な問題が提起されています。技術的な面だけでなく、新たな害を生まない形で実施できるかという点でも問題があります。たとえば、非常にリスクの高い状況にある人々は、自分の身元を守ったり、後に危険を招くかもしれないメディア認証の一部を取り消したりできるのでしょうか。また、新しい技術の導入によって最新のツールを持たない人々が排除される、不均衡な「歯止め効果」をどう避けるのでしょうか。現在の情報環境において、そうした人々とは、ミャンマーやブラジルで「フェイクニュース」との主張にすでに直面している人権擁護者や市民ジャーナリストでしょう。チップメーカーからプラットフォームまで、企業を結集させ、責任ある方法でこれを進めるための有意義な対話を行う、集中的な取り組みが必要です。
また、ソーシャルメディアや動画共有プラットフォームにおけるモデレーションの役割にも取り組む必要があります。表現の自由に関する国連特別報告者が最近指摘したように、プラットフォームは、表現の自由を含む国際人権法に基づいて方針を定め、意思決定における透明性を導入すべきです。ディープフェイクの多くは、創作的なコンテンツ、個人的なコミュニケーション、風刺となるでしょう。悪意ある利用は、願わくば少数にとどまるはずであり、誤った削除につながりかねない、わずかな誤判定のリスクさえ伴う決定を下すべきではありません。
これは、合成メディアの対象とは実際に何かという問いを投げかけます。顔の入れ替えを探しているのか、画像の背景の微妙な変化を探しているのか、あるいはスマートフォンのポートレートモードのぼかし効果を探しているのでしょうか。プラットフォームは、AIを利用した画像操作が存在することを示す仕組みを、今後より適切に整備する必要があるでしょう。
ここには、プラットフォームが協力する動機があります（また、必要に応じて、たとえば差し迫った危害を引き起こす可能性のある悪意あるコンテンツについて判断を下すことも含まれます）。これは、暴力的過激主義対策、スパム、児童の性的搾取画像などの問題で、すでに行ってきたことと同様です。この協力への動機は技術的な面にもあります。AI操作を生み出す過程では、特定の手法の事例が十分に集まり、検出手法に組み込めるようになるまで、偽造者が技術的優位に立っています。
最近の検出技術の進歩には、FaceForensicsデータベースがあり、これは最新の偽造手法を用いて作成された画像などの学習データをAIが受け取ることに依存しています。プラットフォームは、遭遇した事例を共有することで、操作を検出するための最良の情報を得られるでしょう。また、ディープフェイクの利用に伴う悪意ある主体の活動の兆候（たとえば、ボットの利用や、その他の操作の試み）についての洞察を共有することもできます。そうしなければ、悪意ある主体は最も弱い環境、すなわち検出ツールが最も乏しいプラットフォームを悪用するでしょう。
最後に、より容易に偽造され、個別化された音声、動画、写真に向き合うために、一般の人々にどのような新たなリテラシーが必要かを考える必要があります。上記の解決策と同様に、これらは、人々が誤情報や偽情報とどのように関わり、共有するかを理解するという、より広範なアプローチに関連づける必要があります。まずは、信頼性を装って偽造された視覚コンテンツを人々がより適切に評価できるようにするための研究が必要です。また、人々がこのコンテンツに触れる場、すなわち検索エンジン、ソーシャルネットワーク、メッセージングアプリ、動画プラットフォームにおいて、ユーザー体験をどのように適切に導けるかについても研究する必要があります。
WITNESSが主催した最近の脅威モデリングのワークショップで、ある参加者は、画像の真偽を見分けられるという「人々の自信を築く」必要があると提案しました。その一環として、人間の目が見抜けなくなる時に、機械が合成コンテンツの中で検出できるものを可視化することがあります。たとえば、操作された領域をデジタルのヒートマップで示すことなどです。
最初のディープフェイクや悪意をもって合成されたメディアの波は、2019年にも私たちに押し寄せる可能性があります。私たちには備える機会があります。
