偽情報は2024年の世界の主要リスクの一つに挙げられており、ディープフェイクはAIの最も懸念される用途の一つとされています。
特定の意図を持つ、リアルタイムで複数のモデルを扱うAIチャットボットやアバターによって使用されるディープフェイクは、高度に個別化された効果的な種類の操作を可能にするでしょう。
没入感を増す一方のオンライン環境において、本物と合成されたものを見分けるうえで、ゼロトラストの考え方は不可欠な手段になるでしょう。
生成AI（genAI）と大規模言語モデル（LLM）の発展により、ディープフェイクの出現がもたらされました。「ディープフェイク」という用語は、ディープラーニング（DL）を用いて、既存の画像、動画、音声コンテンツの新しいが偽の版を再現することに基づいています。これらは非常にリアルに見えるため、偽物と見抜くことは非常に困難です。
顔の操作手法は、顔が人間のコミュニケーションにおいて極めて重要な要素であるため、特に注目に値します。これらのAIが生成したメディアは、実在する（そしてしばしば影響力のある）人物が、実際にはしていない発言や行動をしているかのように説得力を持って描写することができ、世論に大きな影響を与えかねない誤解を招くコンテンツを生み出します。
この技術は娯楽産業に大きな利点をもたらしますが、政治的な操作に悪用された場合、ディープフェイクが説得力のある偽情報を捏造する能力は、有権者の棄権、選挙結果の操作、社会の分極化、公人の信用失墜、さらには地政学的緊張の誘発を招きかねません。
世界経済フォーラムは、偽情報を2024年の主要リスクの一つに挙げています。また、ディープフェイクはAIの最も懸念される用途の一つに挙げられています。
生成AIツールへのアクセスが容易になったことで、今日のディープフェイク作成者は、実在の人物のハイパーリアルな合成動画、音声、画像を生成するために、技術的な専門知識や多額の資金を必要としなくなっています。例えば、Countercloudの研究者は、広く入手可能なAIツールを使用して、完全に自動化された偽情報研究プロジェクトを月額400ドル未満の費用で構築しました。これは、大規模な偽情報キャンペーンを作成することがいかに安価かつ容易になったかを示しています。
低コスト、容易さ、規模は既存の偽情報問題を悪化させており、特に政治的操作や社会の分極化に利用される場合にそうです。2023年12月8日から2024年1月8日の間に、100件以上のディープフェイク動画広告が、Meta上で英国のリシ・スナック首相になりすましていることが確認されました。その多くは、例えば「人々は激怒している」といった言葉を用いるなど、感情的な反応を引き起こすものでした。
ディープフェイクが偽情報を拡散させ、民主的な プロセスを阻害し、評判を傷つけ、公的な不安を煽る可能性は過小評価できません。特に、政治キャンペーン、ニュース放送、ソーシャルメディアプラットフォームにおけるデジタルメディアの統合が進んでいることを考えると、なおさらです。
今後の課題として、特定の意図を持つ、リアルタイムで複数のモデルを扱うAIチャットボットによって使用されるディープフェイクなどが挙げられ、これらは高度に個別化された効果的な種類の操作を可能にし、現在直面しているリスクを一層悪化させるでしょう。インターネットの分散型の性質、国際的なプライバシー法の相違、そしてAIの絶え間ない進化により、悪意のあるディープフェイクの利用を阻止することは、たとえ不可能ではないにせよ、極めて困難です。
対策
1. 技術
現在、複数の技術ベースの検出システムがすでに存在します。機械学習、ニューラルネットワーク、フォレンジック分析を用いることで、これらのシステムは、通常ディープフェイクに関連する不整合について、デジタルコンテンツを分析することができます。顔の操作を調べるフォレンジック手法は、コンテンツの真正性を検証するために使用できます。しかし、インラインかつリアルタイムの分析を行う自動検出ツールの作成と維持は依然として課題です。ただし、時間をかけて広く採用されれば、AIベースの検出手段はディープフェイクへの対抗に有益な影響をもたらすでしょう。
2. 政策の取り組み
世界経済フォーラム技術政策に関するグローバル未来評議会のメンバーであるCharmaine Ng氏によれば、「私たちは、ディープフェイクという世界的な問題に対する、実行可能で、実現可能で、導入可能な解決策を模索する国際的かつマルチステークホルダーによる取り組みを必要としています。欧州では提案されているAI法を通じて、米国ではAIに関する大統領令を通じて、各国政府は、コンテンツの真正性や、そうでないことを他のユーザーに示すことで、AIの価値体系における説明責任と信頼のレベルを導入しようとしています。
各国政府は、オンラインプラットフォームに対し、AIが生成したコンテンツを検出してラベルを付けることを義務付けており、生成AIの開発者には、悪意のある行為者がこの技術を使ってディープフェイクを作成することを防ぐための安全対策を構築することを求めています。責任あるAIに関する国際的な合意を形成し、明確なレッドラインを画定する取り組みはすでに進行中であり、私たちはこの勢いを活かしていく必要があります。」
生成AIおよびLLMのプロバイダーに対し、配布前にディープフェイク作成プロセスへのトレーサビリティと電子透かしの組み込みを義務付けることは、説明責任の一定水準を確保し、コンテンツが合成されたものかどうかを示す手段となり得ます。ただし、悪意のある行為者は、脱獄版を使用したり、独自の非準拠ツールを作成したりすることで、これを回避する可能性があります。この技術の悪用に対して統一された態勢をとるには、倫理基準、許容される用途の定義、そして何が悪意のあるディープフェイクを構成するかの分類について、国際的な合意が必要です。
3. 公衆の認識
公衆の認識とメディアリテラシーは、AIを活用したソーシャルエンジニアリングや操作攻撃に対する重要な対策です。早期教育から始めて、個人は、本物と捏造されたコンテンツを見分ける技能、ディープフェイクがどのように拡散されるかの理解、そして悪意のある行為者が用いる心理的・社会的なソーシャルエンジニアリングの手口を理解できるよう備えるべきです。メディアリテラシープログラムは批判的思考を最優先し、人々が消費する情報を検証するための手段を身につけさせる必要があります。研究によれば、メディアリテラシーは、AIを活用した偽情報から社会を守る可能性を秘めた強力な技能であり、ディープフェイクを共有しようとする人の意欲を低下させることが示されています。
4. ゼロトラストの考え方
サイバーセキュリティにおいて、「ゼロトラスト」のアプローチとは、初期設定では何も信頼せず、代わりにすべてを検証することを意味します。オンラインで情報を消費する人間に適用すると、健全な懐疑心と絶え間ない検証が求められます。この考え方は、感情を刺激するコンテンツに反応する前に一呼吸置き、デジタルコンテンツに意図的かつ思慮深く関わることを促す、マインドフルネスの実践と一致します。ゼロトラストの考え方の文化をサイバーセキュリティ・マインドフルネス・プログラム（CMP）を通じて育むことは、技術だけでは防御が困難な、ディープフェイクやその他のAIを活用したサイバー脅威に対処する力をユーザーに与えるのに役立ちます。
私たちがますますオンラインで生活し、メタバースがまもなく現実のものとなるにつれ、ゼロトラストの考え方はさらに重要性を増します。こうした没入型環境では、現実のものと合成されたものを見分けることが極めて重要になるでしょう。
世界経済フォーラムは、人工知能に対するガードレールをどのように構築していますか？
AI卓越性センターは、各セクションのリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解するための場を提供しています。AI導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支援しています。
信頼できる場や協働の取り組みを通じて、センターはパートナーが共通の理解を構築し、AIの革新と利用に対する責任あるアプローチに向けて協力できるよう支援しています。
デジタル空間におけるディープフェイクの脅威を効果的に緩和するための、万能の解決策はありません。むしろ、技術的・規制的手段の組み合わせに加え、公衆の認識の向上を含む多層的なアプローチが必要です。これには、各国、組織、市民社会の間での世界的な協力、そして政治的な強い意志が求められます。
一方、ゼロトラストの考え方は、物理世界とバーチャル世界の境界が曖昧になり続けるなかで、デジタル上の欺瞞に直面しても、個人と組織の双方が常に警戒を怠らないよう、能動的な姿勢をサイバーセキュリティにおいて促すでしょう。
