ディープフェイク規制が本格化、世界が注目するデンマークの一手

ディープフェイクには、ユーモラスで笑いを誘うものから、人を操り、危険を及ぼすものまで、様々な種類が存在します。

デンマーク政府は、著作権法の強化に向けた具体的な措置を講じており、AIによって生成されたディープフェイクの作成、共有を防止することを目指しています。この改正案は欧州で初めての試みであり、個人のアイデンティティ（容姿や声を含む）に関する権利を保護することを目的としています。超党派の支持を得て、政府は今秋の改正案提出を予定。ディープフェイク対策が緊急課題と認識されていることがうかがえます。

では、ディープフェイクはどれほど脅威的であり、政策担当者は、具体的にどのような対策を講じるべきなのでしょうか。

ディープフェイクとは、AIを利用し、極めてリアルな偽の画像、動画、音声コンテンツを生成する技術です。この用語は「深層学習（ディープラーニング）」と「偽物（フェイク）」を組み合わせたもので、使用されるAI技術そのものと生成されるコンテンツの両方を指します。

ディープフェイクには、既存のコンテンツを改変するタイプ（例えば映画『バック・トゥ・ザ・フューチャー』の映像でマイケル・J・フォックスの顔をトム・ホランドのものに置き換えるなど）と、実際には言っていないことやしていない行動をしているように見せる、新規コンテンツを生成するタイプがあります。

映画のシーンで顔を合成する行為は一見無害に思えますが、個人の肖像権を侵害する行為に他なりません。米国では2023年、俳優たちが肖像権の保護を求めてストライキを実施し、映画とテレビ番組の制作が一時停止する事態となりました。これにより、業界は今後、俳優の画像をAIで使用する際には必ず本人の同意を得ることを確約しました。

懸念の深まるディープフェイクの用途として、元米国大統領ジョー・バイデン氏やウクライナ大統領ヴォロディミル・ゼレンスキー氏の偽動画が拡散された事例が挙げられます。これにより、メッセージに高い信頼性が付与され、あたかも信頼できる情報源から発信されているかのように見せかけることが可能になるからです。

一方で、すべてのディープフェイク攻撃が、政治的動機によるものとは限りません。有害なディープフェイクの検出を専門とするリゼンブルAI（Resemble.ai）の最新調査によると、金融詐欺やサイバー犯罪も、急速に増加している分野です。標的となる対象者の41%が著名人（芸能人、政治家、企業経営者など）である一方、34%は一般個人（特に女性や子ども）であり、18%は組織・団体となっています。

英国のエンジニアリング企業、アラップは、上級管理職のAI生成クローンを使用した犯罪者グループによる、大規模なディープフェイク詐欺の被害に遭いました。犯人はビデオ通話で財務担当者を騙し、2,500万ドルをサイバー犯罪者に送金させたのです。

また、イタリアのフェラーリでは、AIで生成されたベネデット・ヴィーニャCEOの音声による詐欺未遂事件が発生。本物のCEOしか答えられない巧妙な質問を従業員が投げかけたことで、寸前で被害が阻止されました。

一方、BBCのジャーナリストは、自身の声の合成バージョンを使用して、銀行の音声認証システムを突破することに成功しています。

2025年第2四半期に発表された、リゼンブルAIのセキュリティレポートによると、同四半期に公表されたディープフェイク攻撃は487件で、前四半期比41%増、前年比では300%以上の増加。ディープフェイク詐欺による直接的な経済的損失は約3億5,000万ドルに達しており、同社の調査では、ディープフェイク攻撃は半年ごとに倍増していることが明らかになっています。

ディープフェイク詐欺は世界的な課題であり、前述の調査によると、主に技術先進地域に集中しているものの、新興市場でも被害が拡大しています。報告件数では米国が最多である一方、アジア太平洋地域や欧州でも多発。アフリカでも急速に増加しています。

政策当局者はディープフェイクへの対応を強化しており、 米国の「テイク・イット・ダウン法」は現時点で最も重要な意味を持つ対策の一つです。この法律では、有害なディープフェイクを48時間以内に削除することを義務付け、配布行為に対しては連邦刑罰を科すこととしています。また、公共ウェブサイトやモバイルアプリ事業者には、報告受付とコンテンツ削除の手続き整備が義務付けられます。同国のテネシー州、ルイジアナ州、フロリダ州の州議会でも、すでにディープフェイク規制法が制定されています。

欧州では、2024年に施行されたEUの「デジタルサービス法」（DSA）が、「オンライン上の違法、有害行為や偽情報の拡散を防止する」ことを目的としています。オンラインサービスプロバイダーは現在、EU当局からかつてないほど厳しい監視下に置かれており、遵守されない場合に対する正式な調査も複数進行中です。英国では2025年初頭、米国と同様の「オンライン安全法」が制定されました。

また、デンマークで現在審議中の改正案では、ディープフェイクの被害者がコンテンツの削除を要請できるほか、アーティストが自身の画像の無断使用に対して、補償を請求できるようになります。この権利は、アーティストの死後50年間にわたって適用される予定。改正法案が成立した場合、フェイスブックやエックスなどのオンラインプラットフォームには、多額の罰金が科されるようになる可能性があります。この法案では直接的な補償制度や刑事罰の規定は設けられていませんが、デンマーク法の下で、損害賠償請求の法的基盤が整備されることになります。

現在、デンマークはEU理事会の議長国を務めており、メディアと文化を欧州民主主義の中核に据えるという明確な意思表示を行う同国のもと、「欧州民主主義の盾」構想などの取り組みが推進されています。このような背景から、デンマークにおける最近の国内著作権法改正は、EU理事会およびEU全体に対して、強い政治的メッセージを送るものとなるでしょう。

世界経済フォーラムの「デジタルセーフティ・グローバル・コアリション」は、オンライン世界をより安全な場所にするため、地域を超えた協力の必要性を強調。官民連携を加速させ、ディープフェイクを含む有害コンテンツ対策を推進しています。また、オンライン安全規制におけるベストプラクティスの共有を促進し、デジタルメディアに関する十分な知識を広める取り組みを支援しています。