ディープフェイク（人物の実写のように見える、しかし偽物の動画、画像、音声クリップ）は、金融犯罪や性犯罪に悪用されています。
専門家はディープフェイクを見分けるヒントを共有していますが、それらは万能ではありません。
世界経済フォーラムのオンライン被害の類型は、デジタル安全性を推進するための共通かつ普遍的な言語を提供することを目的としています。
テイラー・スウィフトが調理器具を配っていたり、ドナルド・トランプがイーロン・マスクと踊っていたりすると、私たちのディープフェイク感知アンテナが反応し始めます。
しかし、ディープフェイク（AIを使って、人物の超リアルだが偽物の動画、画像、音声クリップを作成すること）は、必ずしも気楽なものではなく、見分けるのも容易ではありません。
2023年後半、ディープフェイクの音声録音が有力候補者の立場を揺るがしたのは、スロバキアの選挙でのことです。2024年初頭には、香港の社員が2,500万ドルを支払うよう騙されました。詐欺師が同社員とのビデオ会議の通話を偽装していたためです。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか？
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解することを支援しています。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づく対話を支援しています。
信頼できる場や協調的な取り組みを通じて、同センターはパートナーが共通理解を築き、AIの革新と利用に関する責任ある取り組みで協力できるよう支援しています。
世界各地で選挙が行われる記録的な年において、政治候補者が状況を懸念するのは当然です。そして、その懸念は正しいものです。新たな調査によると、「世論に影響を与える」ために政治家や著名人になりすますディープフェイクは、この技術の最も一般的な悪用例であり、サイバー犯罪を上回っています。
ディープフェイクはどのように見分けられるのでしょうか？
以下の状況を背景に、米国成人の60%がディープフェイクに懸念を抱いているという状況において、それを見分ける能力は重要なスキルになりつつあります。
MITメディアラボは、ディープフェイクの映像で注目すべき、いくつかの見分けのサインを提示しており、次のものが挙げられています。
1. まばたきと唇の動き：自然なリズムに従っているかどうかを観察します。
2. 目と眼鏡の反射：一貫しているか、視覚的に筋が通っているかを確認します。
3. 肌の年齢が、目や髪の年齢と一致しているか。
英国のハル大学による新たな研究によると、重要なのは目です。被写体が両目に一致する反射がある場合、その画像は実写である可能性が高いと言えます。一方、両方の反射に不整合がある場合は、偽物である可能性が高いとされます。
「偽陽性と偽陰性があり、すべてを見抜けるわけではありません」と、研究者の一人であるケヴィン・ピンブレット教授は警告しています。「しかし、この方法は、ディープフェイクを検出するための軍拡競争において、基礎となり、攻略の計画を与えてくれます。」
ディープフェイクと法律
ディープフェイクによる被害を受けるのは、政治家や著名人だけではありません。
ディープフェイクポルノ（人物の画像が、性行為に及んでいるように見えるよう加工されたもの）が大きな問題になっており、特に韓国では「デジタル性犯罪の蔓延」が起きていると、BBCは報じています。
韓国の警察は297件のディープフェイクによる性犯罪に対応しており、今年これまでの件数であると、ロイターは伝えています。被害者と加害者の大半は10代です。
英国では、18歳未満の半数以上が、ディープフェイクポルノの被害者になることを懸念しており、政府はこの問題に対処するための措置を講じています。性的に露骨なディープフェイク画像を作成することは、刑事犯罪とされています。
米国では現在、ディープフェイクを禁止または規制する法律は存在しないものの、報告されているところでは、ディープフェイク詐欺の1740%増加（2023年）。米連邦取引委員会は、一方で新たな法律を起草しており、個人になりすましたディープフェイクの制作と流通を禁止するものです。
ディープフェイクにどう対処できるでしょうか？
法律が追いつこうと奮闘する中、企業や社会がディープフェイク問題に取り組むための、他の方法を紹介します。
例えば、スタンフォード大学は、AIの悪用を見つけるためにAIを使っています。同大学が当初、編集者が動画から話し言葉を自然に挿入または削除できるように開発したツールは、ディープフェイクを作る人々に転用されました。これに対抗するため、スタンフォード大学の研究者は現在、リップシンク技術を検出できるツールを開発しており、偽造事例の80%で検出できるとしています。
ブロックチェーン技術は、ディープフェイクへの対抗に役立つ可能性があると、Seal Storage Technologyの最高ビジネス責任者であるスコット・ドゥーマン氏は述べています。「単一障害点に関連する脆弱性を強化」できるためです。単一障害点に関連する脆弱性を強化」。
オンラインコンテンツに対してゼロトラストの考え方を持つよう一般の人々を教育することも、もう一つの重要な抑止力になると、KnowBe4 Africaの上級副社長であるアンナ・マリア・コラード氏は主張しています。
「生体検証」は、生体認証システムにおいて不可欠な追加要素になりつつあると、リカルド・アンパー（Incode Technologiesの創業者兼CEO）は述べています。「例えば、セキュリティチェックで顔認証のために自撮り写真が必要な場合、犯罪者は、リアルタイムの自撮りの代わりに、写真や動画を提示しようとするかもしれません。生体検知は、自撮り写真に写っているのが実在する生きた人物かどうかを判断することで、こうした行為に対抗できます。」
世界経済フォーラムのオンライン被害の類型は、ディープフェイクを「欺瞞的な合成メディア」という枠組みに分類しており、デジタル安全性を推進するための共通かつ普遍的な言語を提供することを目指しています。AIは「新たな形態の被害を生み出す、または既存の被害を悪化させる可能性がある」という、絶えず進化する技術であることを認識した上で、利害関係者がより安全なデジタルエコシステムを構築するための包括的な枠組みを提供することが狙いです。
