2022年には、サイバーセキュリティの専門家の66%が、所属組織内でディープフェイクによる攻撃を経験しました。
研究者は、2026年までにオンラインコンテンツの最大90%が合成的に生成される可能性があると予測しています。
新たな検出技術の開発と、教育および倫理的配慮への継続的な注力により、ディープフェイクに対抗し、ディープフェイク技術が公共の利益のために確実に利用されるよう、協力して取り組むことができます。
近年、ディープフェイクの増加が見られます。2019年から2020年の間に、オンライン上のディープフェイクコンテンツの数は900%増加しました。今後もこの憂慮すべき傾向が続くと予測されています。一部の研究者は、「オンラインコンテンツの最大90%が2026年までに合成的に生成される」可能性があると予測しています。ディープフェイクはしばしば人を欺いたりソーシャルエンジニアリング攻撃を行ったりするために悪用され、デジタル技術への信頼を損なうとともに、企業にとってますます脅威となっています。
2022年には、66%のサイバーセキュリティの専門家が、所属組織内でディープフェイクによる攻撃を経験しました。ディープフェイク犯罪の例として、音声変換ソフトウェアを用いてCEOやその他の上級幹部になりすまし、偽の音声メッセージを作成するケースがあります。こうした改変された音声メッセージには、受信者に送金や機密情報の開示を求める緊急の要請が含まれていることが多くあります。
調査によると、銀行部門はディープフェイク攻撃に特に懸念を抱いており、サイバー分野の実務者の92%が、その不正な悪用を懸念しています。「個人向けの銀行業務および決済サービス」などのサービスは特に懸念されており、こうした懸念は根拠のないものではありません。例を挙げると、2021年には、銀行の支店長が騙されて3,500万ドルを不正な口座に送金させられました。
ディープフェイクの高いコストは、他の業界にも及んでいます。昨年は、小規模企業の26%と大企業の38%がディープフェイクによる詐欺被害を経験しました。その結果、最大48万ドルの損失が生じています。
ディープフェイクは、特に偽情報キャンペーンの文脈において、選挙の結果、社会の安定、さらには国家安全保障を損なう可能性も秘めています。一部のケースでは、ディープフェイクが世論操作や偽ニュースの拡散に利用され、国民の間に不信と混乱を招いています。
AIがディープフェイクのリスクに与える影響
人工知能（AI）の発展により、ディープフェイクのリスクは大幅に高まっています。生成モデルを含むAIアルゴリズムは、実際の画像、動画、音声記録と区別することが困難なメディアを作成できるようになりました。さらに、これらのアルゴリズムは低コストで入手でき、容易に入手可能なデータセットを用いて学習させることができるため、サイバー犯罪者がフィッシング攻撃や詐欺コンテンツ向けに、説得力のあるディープフェイクを作成することが容易になっています。
ディープフェイクの進化に伴い、そうした脅威を検出するための技術やツールも進化しています。現在、ディープフェイク検出ツールは、生体特徴（心拍や人の声の周波数など）に基づいて、動画または音声コンテンツが真正であるかどうかを判断できます。
とはいえ、デュアルユース技術であるAIは、現在のディープフェイク検出ツールによる検出を回避するよう specifically 設計された合成コンテンツを生成することで、事態をさらに複雑にする可能性もあります。
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保していますか？
ディープフェイク詐欺とアイデンティティ窃盗がもたらす複合的なリスク
ディープフェイク詐欺は重大なリスクをもたらしますが、「アイデンティティ窃盗」などの他のサイバー犯罪のリスクを増大させることもあります。例えば、ディープフェイクを用いて偽の身分証明書を作成し、サイバー犯罪者が個人になりすましたり、安全なシステムへのアクセスを得たりすることが容易になります。さらに、ディープフェイクを用いて個人の偽の音声または動画記録を作成し、それを脅迫や恐喝に利用することも可能です。
一方、アイデンティティ窃盗はディープフェイク詐欺のリスクをさらに悪化させることもあります。例えば、サイバー犯罪者は盗んだ身元を使ってより説得力のあるディープフェイクを作成したり、ディープフェイクを利用してさらなるアイデンティティ窃盗を実行したりすることがあります。
こうした複合的なリスクを軽減するためには、多面的なアプローチを取る必要があります。これには、より高度なディープフェイク検出技術への投資や、生体認証およびライブネス検証を含む本人確認システムの改善が含まれます。これにより、アイデンティティ窃盗におけるディープフェイクの悪用を防止することができます。
潜在的な解決策
これらの新たな脅威に対処するため、ディープフェイク検出技術の開発と改善を継続する必要があります。これには、より高度なアルゴリズムの利用に加え、文脈、メタデータその他の要因に基づいてディープフェイクを特定できる新たな手法の開発が含まれる可能性があります。
もう一つの潜在的な解決策は、メディアリテラシーと批判的思考を促進することです。ディープフェイクの危険性と、それを見分ける方法について一般市民を教育することで、こうした悪意ある偽情報キャンペーンの影響を軽減することができます。日常的な利用にデジタル信頼フレームワークを組み込むことは、デジタル技術およびそれを提供する組織が、すべてのステークホルダーの利益を保護し、社会的な期待や価値観を尊重するという安心感を個人に与えることに役立ちます。」
最後に、AIとディープフェイク技術がもたらす倫理的影響についても考慮する必要があります。政府や規制当局は、ディープフェイク技術を規制し、透明性、説明責任、責任ある技術の開発と利用を促進する政策の策定において、重要な役割を果たすことができます。そうすることで、AIが害をもたらさないようにすることができます。
結論として、ディープフェイク技術は、特にサイバー犯罪者の手にある場合、増大する脅威です。AIの台頭に伴い、ディープフェイクがもたらすリスクはますます深刻になっています。しかし、新たな検出技術の開発と、教育および倫理的配慮への継続的な注力により、これらのリスクを軽減し、ディープフェイク技術が公共の利益のために利用されるよう、協力して取り組むことができます。
