オンライン上のディープフェイク動画の数は、推定で年率約900%の割合で増加している。
技術の進歩により、ディープフェイクはますます容易に作成できるようになり、悪意のある悪用を最も効果的に防ぐ方法について疑問が提起されている。
ディープフェイクの危険から人々を守る最善の方法は、接触機会を設けて認知度を高めることだと指摘されている。
ドナルド・トランプ氏は遅ればせながら認めた（昨年の米大統領選挙から2か月後）の敗北について、一部のニュース報道は根本的な疑問に焦点を当てた。その疑問とは、彼の演説が実際に行われたのかどうかという点だった。
劇的な急増は、ディープフェイク（誰でも想像力、残酷さ、ずる賢さの範囲内であらゆることをしたり言ったりしているように見せかけられるオンライン上の画像）により、現実を見極める私たちの能力への信頼が損なわれ始めている。
近年の技術の進歩は、衝撃を与え、熟練の技術観察者さえも含め、携帯電話とAvatarifyのようなアプリへのアクセスがあれば誰でも、相応の品質のものを作れるようになった。
ある新興企業一社の推計によると、オンライン上のディープフェイク動画の数は、2019年の14,678本から翌年6月までに145,277本へと急増した。先月、FBIは警告した。「悪意のある行為者」が近い将来、米国で外国の影響工作や犯罪活動のためにディープフェイクを利用する可能性が高いとされる。世界各地では、この技術が次第に偽情報、分断、詐欺や恐喝の源となることを懸念する声が上がっている。
ミャンマーの軍事政権が最近、拘束中の民間人指導者を不利に陥れる人物の映像を投稿した際、それは広く否定され、ディープフェイクだとされた。昨年、ベルギー首相のCOVID-19を気候変動と結びつけた発言は、ディープフェイクだったと判明し、インドの政治家マノジ・ティワリ氏が選挙運動でこの技術を使ったことは懸念を引き起こした。ガボンでは、病身の大統領の映像がディープフェイクだという見方が引き金となり国家的な危機に発展した（2019年初頭）。
政治的な理由で世論を操作するために画像を加工する手法は、少なくともスターリンの時代まで遡る。この人物は有名な話として削除し、公式写真から粛清した同志を消した。
しかし、一部では、より差し迫った問題は、公人ではない人々がオンライン上の攻撃に対して脆弱性が高まっていることだとされる。インドのジャーナリスト、ラナ・アイユーブ氏は、詳述している（例えば、ディープフェイクポルノを使って彼女を黙らせようとする試み）。
一部の人々は主張する。この技術そのものの脅威は誇張されており、また本当の問題は、悪質な行為者が、自分たちに都合の悪いメディア報道を「フェイクニュース」と呼んで退けるのと同様に、「ディープフェイク」と叫んで不正行為の映像証拠を退けられるようになった点にあるという。
それでも、ある報告書によれば、技術的に高度で「カスタマイズされた」ディープフェイクは重大な脅威となる。これらは影響を最大化するため、選挙などの重要な局面に備えて温存される可能性がある。2020年時点で、「最先端」のディープフェイクを生み出すのに必要な技術の推定コストは、同報告書によると30,000ドル未満だった。
「ディープフェイク」という用語の普及は、不名誉な起源を持つ。2018年以降、規制や禁止を求める声が高まっており、関連法案は提出されており、米国では、また2019年には中国がそれを、開示せずにディープフェイクを公開することを刑事犯罪とした。フェイスブックは表明し、昨年、パロディや風刺ではないディープフェイクを禁止すると。ツイッターは表明し、危害を引き起こす可能性のあるディープフェイクを禁止すると。
ディープフェイクの危険から人々を守る最善の方法は、接触機会を設けることだと提案されている。一般の人々が危機の本質を理解できるよう、さまざまな取り組みが行われてきた。
昨年、人気のアメリカのアニメシリーズ「サウスパーク」の制作者は、話題となった動画「Sassy Justice」を投稿した。この動画にはトランプ氏とマーク・ザッカーバーグ氏のディープフェイク版が登場する。制作者らはインタビューで説明し、ディープフェイクへの不安は、パンデミック関連の恐怖の陰に隠れてしまったかもしれないが、それでもこの話題は解明されるべき価値がある。
さらに詳しい背景情報として、以下は、世界経済フォーラムのStrategic Intelligenceプラットフォームからのさらなる読書のためのリンクです：
ディープフェイクへの認識が高まったことで、人々は「Amazon従業員」を名乗り労働組合を非難する偽のオンラインプロフィールを素早く見抜けるようになったと、この報告書は伝えている。ただし、この技術への過剰な意識は、人々が本物のメディアを信じなくなる原因にもなりうる。（MIT Technology Review）
ディープフェイクを検出するために設計されたシステムは、最近発表された研究によると、すべての映像フレームに「敵対的サンプル」を挿入し、機械学習モデルを惑わせることで騙すことができるという。（Science Daily）
権威主義体制は「ディープフェイク」という叫びを悪用しうる。この意見記事によると、不利な映像が浮上した際に、もっともらしい否認の余地を主張するため、権力者によってディープフェイクや映像操作の主張が次第に利用されているという。（Wired）
誤情報の拡散をディープフェイクのせいにするのは簡単だが、この意見記事によれば、この技術は、人の画像に作り話の引用文を貼り付けて共有するといった、従来からある創造的な嘘の手法より効果的とは言えない。（NiemanLab）
最近発表された研究によると、ディープフェイクを認識しているシンガポール人の3人に1人は、ソーシャルメディア上でディープフェイクのコンテンツを拡散してしまったと考えており、後にそれがデマの一部だったと知ったという。（Science Daily）
「本当に無力感を覚える」。この報告書によると、ディープフェイクポルノは女性の人生を台無しにしているが、法的な解決策が近く示される可能性もある。（MIT Technology Review）
「誰もの手のひらにある、プロパガンダのパンドラの箱」。この記事によると、ディープフェイクはいまだ比較的容易に見破ることができる。しかし、かつては何百人もの技術者と数百万ドルを要した同じ効果が、まもなく携帯電話で可能になるという。（Australian Strategic Policy Institute）
こちらのStrategic Intelligenceプラットフォームでは、次のテーマに関連する専門家分析のフィードを見つけられます：人工知能、デジタル・アイデンティティなど数百の追加テーマが含まれます。閲覧には登録が必要です。
