ディープフェイクとは、存在しない人物のリアルなコンピューター生成写真であり、マーケティングや悪意ある目的にも、ますます利用されています。
新たな研究により、人々は実在する顔とコンピューターで生成された顔を見分けるのに苦労していることが示されていると、心理学の教授は警告しています。
そして、偽のプロフィールやその他の人工的なオンラインコンテンツの増加は、最終的に社会的信頼を損なう可能性があると、彼は述べています。
ソーシャルメディアサイトに組み込まれた改良型アルゴリズムにより、将来的には実在する顔と偽の顔を見分ける助けになる可能性があります。
たとえ自分は顔の分析が得意だと思っていても、研究によると多くの人は、実在する顔の写真と、コンピューターで生成された画像を確実に見分けることができません。コンピューターシステムが、存在しない人物のリアルな写真を作成できるようになった現在、これは特に問題となっています。
最近、コンピューターで生成されたプロフィール画像を使用した偽のLinkedInプロフィールが、米国の当局者やその他の影響力のある人物と首尾よくつながったことで、例えば、そのネットワーキングプラットフォーム上での話です。防諜の専門家はさらに、スパイがこうした写真を使って架空のプロフィールを日常的に作成し、ソーシャルメディアを通じて外国の標的を絞り込んでいる。
こうしたディープフェイクは日常文化に広まりつつあるため、人々はマーケティング、広告、ソーシャルメディアにおいてどのように使用されているかについて、より強い意識を持つべきです。これらの画像は、政治的プロパガンダ、スパイ活動、情報戦などの悪意ある目的にも使用されています。
これらを作成するには、脳の学習方法を模倣したコンピューターシステムである「ディープニューラルネットワーク」と呼ばれるものが関わります。これは、実在する顔の、ますます大規模になるデータセットにさらすことで「学習」させられます。
実際には、2つのディープニューラルネットワークを互いに対立させ、最もリアルな画像を生成するために競わせます。その結果、最終的な成果物はGAN画像と呼ばれ、GANはGenerative Adversarial Networks（敵対的生成ネットワーク）の略です。このプロセスでは、学習用画像と統計的に区別がつかない新たな画像が生成されます。
iScienceに発表した私たちの研究では、こうした人工的な顔を本物と区別できないことが、オンライン上の行動に影響を及ぼすことを示しました。私たちの研究は、偽の画像が他者への信頼を損ない、オンライン上でのコミュニケーションの在り方を根本的に変えてしまう可能性があることを示唆しています。
私の同僚と私は、人々がGANの顔を、実在する人物の本物の顔写真よりもさらにリアルに見えると判断することを発見しました。なぜそうなるのかはまだ明らかではありませんが、この結果は人工画像の生成に使用される技術における最近の進歩を浮き彫りにしています。
また、魅力度との興味深い関連も見出しました。魅力が低いと評価された顔ほど、より本物らしいとも評価されたのです。魅力の低い顔は、より典型的だとみなされ、典型的な顔が基準として用いられている可能性があり、それに照らしてすべての顔が評価されます。したがって、これらのGANの顔は、人々が日常生活から築き上げてきた心的テンプレートにより近いため、より本物らしく見えるのです。
しかし、これらの人工的な顔を本物と見なすことは、見知らぬ人々の集団に対して私たちが抱く一般的な信頼のレベルにも影響を及ぼす可能性があります。これは「社会的信頼」として知られる概念です。
私たちは、目にする顔について考えすぎることが多く、私たちが形成する第一印象が、社会的な交流を導いており。最新の研究の一部である2つ目の実験では、人々は、人工的に生成されたものであっても、以前に本物と判断した顔が伝える情報をより信頼しやすいことがわかりました。
人々が本物だと信じる顔をより信頼するのは驚くことではありません。しかし、オンラインでのやり取りにおいて人工的な顔が存在する可能性を知らされると、信頼が損なわれることがわかりました。その後、顔が本物かどうかにかかわらず、全体的な信頼のレベルが低下しました。
この結果は、偽のユーザーが活動しうる環境において人々をより疑い深くさせたという点で、ある意味有益と見なせるかもしれません。しかし別の観点から見ると、私たちがどのようにコミュニケーションを取るかという本質そのものを、徐々に損なう可能性があります。
一般に、私たちは他者は基本的に誠実で信頼できるという初期設定の前提に基づいて行動する傾向があります。偽のプロフィールやその他の人工的なオンラインコンテンツの増加により、そうした存在や、それらについて私たちが知っていることが、この「真実のデフォルト」の状態をどの程度変えうるのか、そしてやがては社会的信頼を損なうのではないか、という問いが生じています。
初期設定を変える
現実のものと、そうでないものを区別できない世界への移行は、文化的な状況を、主として誠実なものから、主として人工的で欺瞞的なものへと変えてしまう可能性もあります。
オンラインで体験するものの真偽を日常的に疑うようになれば、私たちの精神的な努力を、メッセージそのものの処理から、発信者の身元の処理へと振り向け直す必要が生じるかもしれません。言い換えれば、非常にリアルでありながら人工的なオンラインコンテンツが広く使われることで、私たちが予想もしなかった形で考え方を変える必要が生じる可能性があります。
心理学では、ある事柄が外界から来ているのか、脳内から来ているのかを正しく識別する方法を「現実モニタリング」と呼んでいます。偽物でありながら非常にリアルな顔、画像、ビデオ通話を生成できる技術の進歩は、現実モニタリングが自分自身の判断以外の情報に基づかなければならないことを意味します。また、人類が今なお真実を初期設定として持ち続ける余裕があるのかについて、より広範な議論が求められています。
デジタルの顔を評価する際には、人々がより批判的になることが極めて重要です。これには、逆画像検索を用いて写真が本物かどうかを確認すること、個人情報が少なかったりフォロワー数が多かったりするソーシャルメディアのプロフィールに注意すること、そして、ディープフェイク技術が悪意ある目的に使用される可能性を認識することが含まれます。
この分野の次なるフロンティアは、偽のデジタルの顔を検出するためのアルゴリズムの改善であるべきです。これらは、新しいつながりの顔について本物と偽物を見分ける助けとなるよう、ソーシャルメディアプラットフォームに組み込まれる可能性があります。
