新たなディープフェイク動画では、Facebook創業者のマーク・ザッカーバーグが、実際には話していない言葉を述べているように見える。
この動画は、広告会社Cannyと、アーティストのBill PostersおよびDaniel Howeが制作し、Instagramに投稿されたもので、2017年に撮影されたザッカーバーグの実際の動画を基にしている。ディープフェイクの制作にあたり、Cannyは独自のアルゴリズムを、2017年の動画から切り出した21秒のクリップと、台本を読み上げる声優の動画で学習させた。映像としては説得力があるが、声はザッカーバーグのものとはあまり似ていない。
「ほんの一瞬想像してみてください。一人の男が、何十億人もの人々の盗まれたデータ、その秘密、生活、未来のすべてを完全に掌握しているのです」と、動画の中のザッカーバーグの姿が語る。動画のキャプションには「#deepfake」が含まれている。「すべては Spectre のおかげです。Spectre は、データを支配する者が未来を支配することを私に教えてくれました」
（Spectreは、2019年にイギリスのシェフィールド・ドキュメンタリー・フェスティバルで上映された、受賞歴のあるインタラクティブアート・インスタレーションである。）
この動画は、プラットフォーム上の誤情報の削除に関するFacebookの方針を実質的に試すものとなっている。Facebookは最近、ナンシー・ペロシ下院議長の動画を削除することを拒否し批判を浴びた。その動画は、彼女が酔っているように見せるため速度が落とされていた。Facebookは、この動画のニュースフィードでの表示頻度を下げ、フェイクであるとのフラグを付けたと述べている。
Facebookが所有するInstagramは、ザッカーバーグのディープフェイクをペロシ議長の動画と同様に扱うと述べた。同社の広報担当者であるStephanie Otwayは、「第三者のファクトチェック機関がこれを虚偽と判定した場合、Instagramの『Explore』やハッシュタグページなどの推奨表示から除外します」と、「ニューヨーク・タイムズ」に語った。
ザッカーバーグのディープフェイクを手がけたチームは、キム・カーダシアンのディープフェイクも制作している。
ディープフェイク技術は数年前から存在しているが、最近では、気づかない一部の視聴者を欺けるほど精巧になっている。5月には、Samsungの研究者が、人物の顔の「一枚の画像から、説得力のある形で動かせる」新たなAIについての動画を公開した。この技術が悪用されることを懸念している場合、あなただけではない。国防総省はすでに、「ディープフェイクを自動的に検出することを目指したツールの開発」を進めている。ただし、これらのツールが完全に有効になることはないかもしれない。
「理論上、ディープフェイク技術を構築する［敵対的生成ネットワーク］に、それを検出するために私たちが知っているすべての手法を与えたとすれば、それらすべての手法をすり抜けてしまう可能性があります」と、国防総省のプロジェクトを統括する米国防高等研究計画局（DARPA）のプログラムマネージャーであるDavid Gunningは述べた。このことは、「MIT Technology Review」に語っている。「限界があるのかどうかはわかりません。不明です。」
たとえディープフェイクを検出できたとしても、特に政治の分野では、視聴者が本物と偽物を区別したがらない場合があるかもしれない。例えば、ドナルド・トランプ大統領は最近、ナンシー・ペロシ下院議長が酔っているように見えるよう速度を落として編集された動画を、ツイッターに投稿した。この動画は、編集されたものであると確認する報道があるにもかかわらず大統領のTwitterアカウントに残されており、現在600万回以上再生されている。この動画がフェイクコンテンツであることを知っている、あるいはそれを認めようとする人が何人いるかは不明である。
