米国は有害なディープフェイクコンテンツから守るための新法を起草中です。
ディープフェイクは、評判を傷つけ、民主主義を損なうために使われる可能性があります。
世界経済フォーラムのデジタル・トラスト・イニシアチブおよびグローバル・デジタル安全連合は、有害なオンラインコンテンツに対抗することを目指しています。
トム・クルーズ、バラク・オバマ、リシ・スナク、テイラー・スウィフトの共通点は何でしょうか。答えは、いずれもオンラインに投稿されたディープフェイク動画の対象となったことです。
ディープフェイクはAIを使って作成されたコンテンツです。実在の人物になりすますために使われる可能性があり、非常に精巧なため、コンピュータでなければ本物ではないと見分けられない場合があります。
トム・クルーズのディープフェイク動画はTikTokで拡散し、軽い娯楽として制作されたものでした。クルーズ本人は、CNNの報道によれば、動画をオフラインにするための措置を一切取っていませんCNNの報道によると。
ディープフェイクの娯楽が終わるとき
AIツールの普及により、ディープフェイクを使って評判を傷つけ、民主的な選挙を損ない、検証された正確なオンライン情報源への信頼を損なうことへの深刻な懸念が高まっています。世界経済フォーラムの『グローバルリスク報告書2024』では、誤情報と偽情報が、今後2年間に世界が直面する最大の脅威として挙げられています。
2024年2月、ある音声ディープフェイクが出現し、米国のジョー・バイデン大統領の声を模倣しました。この音声クリップは、米国ニューハンプシャー州の民主党支持の有権者を対象とした自動音声電話で使用されました。偽のメッセージでは、AIで生成されたバイデン氏の声が、同州の予備選挙で投票しないよう人々に呼びかけていました。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築していますか？
AI卓越性センターは、各分野のリーダーをつなぎ、急速に進化する人工知能と、それが経済や社会に与える影響を理解する取り組みを支援しています。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援しています。
信頼できる場と協働イニシアチブを通じて、センターはパートナーがAIのイノベーションと利用に関する責任あるアプローチについて共通理解を構築し、協力して取り組めるよう支援しています。
2024年11月に行われる、分断を生む可能性のある米国大統領選挙では、バイデン氏がトランプ氏と大統領の座を争う見通しです。米国当局は、個人になりすますディープフェイクの制作と配布を禁止する新法を起草しています。
ディープフェイクを違法化する法的な動き
提案されている法律は、米国の連邦取引委員会（FTC）によって提出されています。FTCは、先進技術が、何も知らない一般市民を騙すために使われるディープフェイクの大幅な増加を招いていると警告しています。
「詐欺師はAIツールを使い、驚くほどの精度で、しかもはるかに広範囲にわたって個人になりすましています。音声クローンやその他のAIを使った詐欺が増える中、米国人をなりすまし詐欺から守ることがこれまで以上に重要になっています」と、FTCのリナ・M・カーン委員長は述べました。「最終的ななりすまし規則の拡大案は、まさにそれを実現し、個人になりすますAI詐欺に対処するためのFTCのツールを強化するものです。」
提案されているこれらの法律は詐欺師を阻止することを目的としていますが、政府機関や企業へのなりすましにも及ぶため、もし署名されて法律となった場合には、選挙プロセスを守る法的な保護をもたらす可能性があります。
ディープフェイクと分断された社会
2024年1月にダボスで開催された世界経済フォーラム年次総会の主要テーマの一つは、信頼の再構築でした。
ディープフェイクが公衆の信頼に与える影響は計り知れません。政治家、市民リーダー、産業界のトップを偽って描写するために使われると、政府、メディア、司法制度、民間機関に対する人々の信頼を損なう可能性があります。
デジタルコンテンツの真正性に対する市民の懐疑心が高まるにつれ、その懐疑心は市民生活への全般的な無関心と、情報に基づいた公的な議論の衰退につながる可能性があります。
フォーラムのデジタル・トラスト・イニシアチブは、技術が社会の期待と価値観を守り支持する形で開発・利用されるようにすることで、こうした負の影響に対抗することを目指しています。フォーラムのグローバル・デジタル安全連合も、政府、民間セクター、市民団体を動員して、メディアおよび情報リテラシーを高め、偽情報に対抗するという、社会全体で取り組むアプローチを提唱しています。
「開かれた民主的な社会は、機能するために真実の情報に依存しています」と、世界経済フォーラムのガバナンス・信頼担当責任者であるダニエル・ドブリゴフスキー氏は述べています。「新技術が真実と民主的制度への攻撃を激化させるために使われる場合、民主主義へのデジタルな破壊の可能性を防ぐために、政府、民間セクター、市民による行動が必要です」とドブリゴフスキー氏は付け加えています。
ディープフェイクを見分ける方法
ディープフェイクを作成する主要技術としてAIが台頭する一方で、偽造コンテンツを検出する上でも大きな可能性をもたらしています。スタンフォード大学は、AIツールを開発しました。このツールは、実際には話していない言葉を口に入れるために頻繁に使われるリップシンク（口の動きの合成）の処理を検出できます。
マイクロソフトを含む大手テクノロジー企業は、家族をオンラインで安全に守るためのツールキットを開発しています。これには、批判的に考え、目にしているものが本物かどうかを疑うことで、人々が誤情報や偽情報を見分けるのに役立つガイドが含まれています。
世界がAIの時代へとさらに深く進む中、その誤用を管理するための法的措置は、情報と制度への信頼を守る上で不可欠になるでしょう。オンラインのユーザーとして、私たちは皆、次の問いにこれまで以上に頻繁に向き合う必要があるかもしれません。これは本物か？
