ディープフェイクは世界各地の選挙を混乱させ、誤情報と偽情報が蔓延する事態を招くと広く予想されていた。
ディープフェイクは、どの候補者にとっても選挙の流れを変えるには至らなかった。しかし、効果がなかったからといって無害というわけではない。
AI技術が進歩するなか、組織は人々とシステムを守るため、警戒を続け、常に状況を把握しておく必要がある。
ディープフェイクがもたらす最大の脅威とは何だろうか。1年前に尋ねていれば、多くの人は、世界各地の選挙を混乱させ、誤情報と偽情報が蔓延する事態を引き起こす力だと答えただろう。しかし、実際にはそうならなかった。
2024年の選挙期間中には、ミームやプロパガンダ、質の低い「AIスロップ」が見られたが、どれも候補者の支持を左右するには至らなかった。
しかし、ディープフェイクは今も存在しており、選挙への影響が限定的だったからといって無害とは言えない。
多くの人がディープフェイクを見誤った
私は2020年からディープフェイクについて執筆し、ディープフェイクは予想とは異なる脅威であり、誤情報・偽情報の脅威ではなく、選挙に影響を与えるものでもないと警鐘を鳴らしてきた。
最近のMetaの報告書もこれを裏付けており、2024年の選挙期間中にファクトチェックされた誤情報全体のうち、AIが生成したコンテンツは1%未満だったとしている。
インドの世界最大規模の選挙を含め、世界各地の主要な選挙がAI関連の問題なく終わったにもかかわらず、専門家は2024年の米大統領選まで危険性を声高に訴え続けた。
多くの人がディープフェイクの影響を過大評価したのは、非常に説得力のある画像や動画が人々をだますことがないとは考えられなかったからだ。実際、「ダウンジャケットを着たローマ教皇」や、メットガラでのケイティ・ペリーのドレス姿といった画像は人々をだました。しかし、これらの画像には重大な利害が絡まず、人々の先入観にも反していなかった。
選挙は強い分極化を招き、社会を深く分断することがある。こうした状況では、情報の受け取り方や共有の仕方は、人々の先入観に沿う傾向がある。多くの場合、こうした状況では真実そのものが人々の考えを変えることはない。
生成AI（GenAI）が登場するずっと前から、インターネット上には偽情報が大量に存在していたという事実を、多くの人が見過ごしていた。それでも、誤情報や偽情報が蔓延する事態には至っていない。誤情報は娯楽の一種となり、人々は自分の考えを支持するミームやプロパガンダを共有して、仲間との連帯を示し、反対側をいら立たせている。
ディープフェイクがもたらす実際のリスク
ディープフェイクを支える技術は、性能と利用しやすさの両面で進歩している。それに伴い、嫌がらせとソーシャルエンジニアリングという、差し迫った二つの危害が浮上している。
ディープフェイクは、個人を標的にした嫌がらせに使われる可能性がある。最も深刻な嫌がらせは、本人の同意のないポルノ画像の作成だ。こうした画像は、そのまま使われることも、脅迫やセクストーション詐欺の材料にされることもある。
この種の嫌がらせは社会全体にも広く影響を及ぼすため、これに特化して対処する新たな法律が提案されている。その一例が、米国の「TAKE IT DOWN法」で、上院で全会一致により可決された。
二つ目のリスクは、ソーシャルエンジニアリング攻撃に関するものだ。ディープフェイクは、人と技術の両方を悪用するために使われる可能性がある。例えば、攻撃者はAIで家族の声を複製し、親族から金銭をだまし取ろうとすることができる。この種の詐欺は増加しており、米連邦取引委員会などの機関が消費者向けの注意喚起を出すに至っている。
詐欺にとどまらず、攻撃者はより高度なソーシャルエンジニアリング攻撃で、組織内の個人を狙うこともできる。こうした攻撃には、複製した音声や、動画のディープフェイクを組み込んださらに巧妙な手法が使われる可能性がある。
2024年2月、報道によると、香港にある多国籍企業の財務担当者が、Zoom会議をもとに2,500万ドルを支払うようだまされた。会議の参加者は、同社の最高財務責任者を含め、全員がディープフェイクだった。
ディープフェイクはシステムを攻撃するためにも生成される。通常、認証や確認を行うシステムが標的となる。このように使われるディープフェイクは、銀行が単純な声紋照合を求めるような、脆弱な本人確認方法の問題を露呈させる可能性がある。
しかし、ディープフェイク技術がソーシャルエンジニアリング攻撃を強化し得る一方で、Kudelski Securityのインシデント対応チームが年間に対応する多数のインシデント対応案件のうち、これまで高度なディープフェイク技術が使われたものはない。依然として、基本的なソーシャルエンジニアリングの手法が主流だ。
ディープフェイクへの対策
ツールが利用しやすく、コンテンツも簡単に作れるため、ディープフェイクは今後も存在し続ける。残念ながら、そのため個人が自らを守る責任の多くを負うことになる。
詐欺への対策として、このような事態について家族と話し合い、危険性を知らせておこう。家族で共有する「合言葉」を決めておくとよい。本人確認のため、名乗った家族が本当に本人かどうかを確かめる際に、この言葉やフレーズを尋ねることができる。
組織や職場では、従業員と導入する技術の双方が責任を担う。利用者向けの教育や啓発プログラムにディープフェイク攻撃の事例を加え、どのような事態が起こり得るか、どんな被害が生じるかを利用者に知らせる必要がある。
ディープフェイク検知技術は、現在も研究が進められている分野だ。それでも、リスクを下げ、攻撃者のハードルを上げるために実施できる対策はある。
強固な認証と認可の仕組みを整備する必要がある。単純な声紋照合や、平面画像だけを使った書類確認など、認証や本人確認が脆弱な箇所を特定し、追加のセキュリティ層で補強する。
音声認証には、攻撃者が知らない追加の秘密情報を組み合わせることができる。顔認証では、生体検知を導入し、本人に頭を回したり向きを変えたりしてもらう方法がある。
写真付き身分証明書などの書類にも同じ方法を適用し、向きを変えたり回転させたりするよう求めることができる。これらの手法はどれも万全ではなく、攻撃者はすでにこれらを悪用しているため、組織は対策を何層にも重ね、攻撃者にとってより困難にする必要がある。
ディープフェイクに関する問題の一部は、私たちの力の及ばないところにある。本人の同意のないポルノ画像のように、技術の特定の利用を禁じる法律の制定には、政府の介入が必要になるかもしれない。しかし、嫌がらせを受けた人は、MetaやXなどのプラットフォームに協力を求め、行為を報告することができる。
何よりも、組織は戦略を進化させ、適応していく準備を整える必要がある。AI技術が進歩し、新たな手法が登場するなか、組織は人々とシステムを守るため、警戒を続け、攻撃者の手法を常に把握しておかなければならない。
フォーラムは、世界的なサイバーセキュリティの課題にどう取り組んでいるのか。
サイバーセキュリティセンターは、リーダーたちが集い、変化するサイバーリスクとそのシステム全体への影響を理解するための、信頼できるプラットフォームを提供している。相互接続がますます進むデジタル世界において、理解と信頼の構築に取り組んでいる。
分野を越えた連携と知見の共有を可能にすることで、センターはパートナーのサイバー・レジリエンス強化と、集団的な対応を要する課題への取り組みを支援している。
