ディープフェイク技術は民主主義を破壊するのか、とニューヨーク・タイムズ紙は問いかける。。私たちの中にはこの専門用語を学び始めたばかりの人もいる一方で、別の人々は、私たちは1～2年のうちにこの勇敢な新しいポスト真実の世界に足を踏み入れることになると予測している。新たな技術動向を懸念して、米国の議員団は国家情報長官宛てに次の警告を記した書簡を送付した。
「超写実的なデジタル偽造物は、高度な機械学習技術を用いて、個人が本人の同意や認識なしに行ったり言ったりしていないことを、説得力のある形で描写する。事実とフィクションの境界を曖昧にすることで、ディープフェイク技術は、録画された画像や動画が現実の客観的な描写であるという公衆の信頼を損なう可能性がある。」
現時点では、ほとんどの偽造物は肉眼で見抜くことができる。しかし、デジタル技術のすべてと同様に、その進歩は指数関数的だ。そして、技術が説得力を欠く場面では、確証バイアスがその隙間を埋めてしまうだろう。内容が自分の信念に合致していれば、不自然な表情や不明瞭な音声の途切れを見落としやすい。
ディープフェイクの代表例は、Buzzfeedの動画だ。オバマ大統領が常軌を逸した宣言をする様子が描かれている。この動画は、いかにしてフェイクが作られたかを示している。この動画の制作にはオバマ氏の声を真似る俳優が必要だったという事実に、ある程度の慰めを見出すこともできるだろう。しかし、この条件もまもなく過去のものとなりつつある。BBCの実験が、最近、音声模倣技術によって証明されたからだ。BBCのテストは自分で試すことができるが、調査対象者の大多数は、AIがプロの物まね芸人を凌駕していることに同意した。
悪意の有無にかかわらず、FakeAppのようなオープンなプラットフォームを使えば、初歩的な動画の偽造物を作成することができる。インターネットは、この危険な能力を民主化することに何の躊躇も見せなかった。今や、大規模な誤情報を引き起こすために、技術的な訓練や多大な資源はもはや必要ない。
破壊的な技術が重大な市民的課題を提起するのは、今回が初めてではない。ディープフェイクがより高度になれば、検出技術も進化すると期待するのは当然だろう。例えばFacebookは、発表したばかりだが、誤情報を発見・排除するための取り組みを加速する計画を示しており、欧州連合はIn Video Veritas（偽動画を見抜くためのブラウザ拡張機能）に資金を提供した。
しかし、私たちの課題は単なる検出にとどまらない。社会の分極化、フィルターバブルこそが、アルゴリズムに支配され情報が過剰な現実がもたらす危険な副作用なのである。扇情的な見出しは、事実であるか否かを問わず、すでに野火のように広がっている。品質が疑わしい、あるいは出所不明のコンテンツは、瞬く間に拡散しかねない。動画は、どのようなテキストや画像よりも本能的に訴えかけるものであり、フェイクが拡散して私たちの認識を形作る危険性は、何倍も高い。
一方では、認識を高めることが最も有効な対策である。動画がいかに容易に操作され、高品質な偽造物が作られるかを理解すれば、私たちは皆より警戒するようになるだろう。他方では、警戒を強めることは信頼の低下を意味し、デジタル上の反響室へのさらなる引きこもりを促し、ますます縮小していく範囲にしか信用を置かなくなる恐れがある。
この脅威に対処するうえで、容易な答えはない。しかし、出発点となりうるいくつかの考えを以下に示す。
政策立案者は、積極的かつ大胆でなければならない。先制的な措置としては、悪意のあるコンテンツの制作者や発信者に対する罰則の早期周知や、執行のための明確な手順を含めることが考えられる。しかし、より重要なのは、伝統的メディアやデジタルメディアのプラットフォームに働きかけ、オンラインコンテンツを取り巻く安全網を根本から見直すことである。例えば、違法なP2P（ピアツーピア）による音楽共有を考えてみよう。ピーク時には、その流れは止めようがないように見えたが、法的措置と新たなビジネスモデルの組み合わせによって食い止められた。
テック大手は、社会における自らの役割を検証すべきである。フィルターバブルはシリコンバレーで生まれたわけではないが、それを強化してきたデジタルプラットフォームとともに、社会政治的秩序を脅かす水準にまで拡大している。「製品が無料であるなら、あなたこそが製品である」という古い格言がある。オンラインサービスの利用者が製品であり続ける限り、私たちのデジタル・コモンズ（共有財）は脆弱なままである。あるプラットフォームであれ別のプラットフォームであれ、デジタルコンテンツの消費に対価を支払う者は、直接的な利害関係を持ち、より厳格な品質管理を求める立場にある。2002年にFTが有料購読制を導入した際、それは当時の多くの慣行に反するものだった。10年後には「ソーシャルジャーナリズム」のプラットフォームであるMediumが立ち上がり、現在では有料購読を提供している。月額11.99ドルの会員料金を支払えば、現在ではYouTubeを広告なしで視聴できる。この流れは既に勢いを増しつつあるように見える。
サイバー脅威が進化するにつれ、インターネットセキュリティも進化してきた。初期のファイアウォールやアンチウイルスソフトは悪意のあるコードの排除に役立ったが、現在ではゼロトラスト・アーキテクチャが新たな標準として台頭しつつある。従来のシステムセキュリティは、悪質なコンテンツのブラックリスト化と、それ以外のすべてを許可することに依拠していた。一方、新たなアプローチは異なる前提に基づいている。すなわち、ホワイトリストに登録されていない限り、すべてのコンテンツはリスクとみなされるのだ。今後はすべてのデジタルコンテンツにおいて、このパラダイムシフトが避けられないのかもしれない。この点で、アントニオ・ガルシア・マルティネスがWired誌への寄稿記事で論じたように、ブロックチェーン技術が有用であることが証明されるかもしれない。
私たちが消費する情報に批判的思考を適用すべきであるという、あまりにも自明な提言は別として、市民が選出された代表者に対して、今こそデジタル時代の新たな社会契約を求めるべき時である。
ディープフェイクは、私たちの制度の強さを試し、事実や真実といった基本的な考え方に挑戦するだろう。それらは、たとえ無気力や冷笑主義ではないにせよ、疑念を植え付けるだろう。人類が先制的に行動できなければ、AIによって生み出された捏造の拡散は、社会の分断の拡大と信頼の衰退を伴う悪循環を引き起こしかねない。私たちは様子見をする余裕はない。注意を払い、今すぐ行動し、人間とアルゴリズムとの相互作用の枠組みを再定義しなければならない。
