インドで最近終わった連邦選挙は、人工知能を使って生成された偽情報を監視する人々に多くの教訓をもたらしました。
偽情報と意図的な偽情報は、短期的に最も大きなリスクであると、『グローバルリスク報告書2024』は指摘しています。
ディープフェイク分析ユニット（DAU）は、WhatsAppのチャンネルを通じて一般の人々がコンテンツを共有し、その真正性を確認できる、インド独自の取り組みです。
インドの最近の連邦選挙を包んだ熱気は落ち着きましたが、AI生成の偽情報の台頭を監視する私たちにとって、そこには貴重な教訓があります。誤解を招く情報や虚偽情報と社会不安との結びつきは、世界経済フォーラムの『グローバルリスク報告書2024』で示されているように、今後2年間に複数の主要経済国で選挙が行われる中、中心的な課題となるでしょう。
ディープフェイク分析ユニット（DAU）は、偽情報対策アライアンスの支援のもと設立され、インドの一般の人々とつながる独自の取り組みとして、WhatsAppの情報提供窓口を設けています。利用者は、人工知能を全部または一部に用いて生成された疑いのある、誤解を招く、または有害な音声・動画コンテンツを共有できます。
このプロジェクトは2024年3月、インドの選挙の第1回投票の1か月足らず前に開始されました。それ以来、この窓口には画像を除く、重複のない音声・動画ファイルが数百件寄せられ、審査されました。受け取ったコンテンツの大半は動画で、生成AIの使用も程度の差はあるものの検出されています。
合成メディアにはどのような種類がありますか？
DAUの活動は、進化し続ける一連の定義に基づいています。これらの定義により、音声・動画コンテンツを「ディープフェイク」（AIを用いて作成）、「チープフェイク」（基本的な編集ソフトで作成）、「改変」または「AI生成」に分類できます。それぞれの区分は、コンテンツに生成AIがどのように使われたかを示します。
AI生成コンテンツがすべてディープフェイクとは限りません。有害でも誤解を招くものでもない場合があり、登場する本人の同意を得て制作された可能性もあるためです。チープフェイクは、実物と見分けがつかないほどのディープフェイクに比べ、制作の質が低いものです。
合成メディアの標的となるのは誰ですか？
私たちの分析では、政治家、著名な実業家、俳優、ニュースキャスターが、悪意を持ってAIを使い動画や音声を改変・制作する者たちの主な標的であることが分かりました。よく知られた人物の顔を使って偽情報を見せると、人々がだまされる可能性が高まります。たとえば、金融詐欺を宣伝する動画にビジネス界の人物を登場させるケースがあります。
場合によっては、AIツールで人物の口の動きを変え、合成音声を完全ではないにせよ口の動きに合わせていました。これは「リップシンク・ディープフェイク」と呼ばれ、AIで人物の口元を再現する場合もあります。動画の真正性を確認する際は、ぼやけた唇や変形した歯が手がかりになることがあります。
情報提供窓口には、比較的単純なAIツールを使い、政治家がボリウッド映画のセリフを話しているように見せた動画が複数寄せられました。また、元の動画の他の要素を残したまま、ボリウッド俳優と政治家の顔を合成したり、入れ替えたりした例もありました。
ディープフェイクを見分けるには？
利用者が情報提供窓口に接続するたびに、ボットが疑わしい音声や動画を分析用に共有する方法を案内します。その過程で、短い動画を通じて、合成メディアを見分けるコツも4言語（英語、ヒンディー語、タミル語、テルグ語）で学べます。
DAUは、真正性を確認するため、情報提供窓口に送られた音声・動画を一つひとつ慎重に審査します。AIの要素が疑われる場合、既存および試験的な提携先から利用できる複数のAI検出ツールや、無料ツールを使います。
世界経済フォーラムは、人工知能にどのようなガードレールを設けているのでしょうか？
AI卓越センターは、さまざまな分野のリーダーを結びつけ、人工知能の急速な進化と経済・社会への影響を理解するための場を提供しています。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援しています。
信頼できる場と協働の取り組みを通じて、同センターは関係者が共通理解を築き、AIの革新と活用に責任ある形で取り組めるよう後押しします。
3つ以上のツールがコンテンツ内のAIによる改変を示した場合、DAUは専門家による分析を受けるため、フォレンジックおよび検出のパートナーに案件を引き継ぎます。分析結果を受け取ると、DAUは評価報告書を作成し、ウェブサイトで公開するとともに、音声または動画を情報提供窓口に送った利用者にも報告書を送ります。こうした詳細な報告書は、コンテンツが合成か真正かを明らかにし、公に記録された情報を正します。報告書の方法論には、合成メディアの見分け方を短時間で学べる解説も盛り込まれています。
ディープフェイクを食い止めるには何ができるでしょうか？
DAUの活動を支える基盤は協働です。私たちは分析結果を、パートナーのファクトチェッカーと共有しています。インド国内の複数言語で活動する12のメディア組織から成るこのパートナーのファクトチェックも、情報提供窓口の利用者に送る評価に含めています。DAUの役割は検証であり、ファクトチェックではないためです。
コンテンツの翻訳や地域ごとの偽情報の傾向把握には、パートナーの専門知識を活用しています。
私たちの使命は、パートナーの輪を広げ、インドおよび世界のファクトチェックの仕組みに貢献することです。協働の成果も見え始めています。たとえば、ElevenLabsに報告した結果、同社のツールを悪用して合成音声を生成し、偽情報を拡散した複数の利用者が利用停止となりました。
これまでに得られた教訓は？
選挙期間中、ディープフェイクは減った一方、合成音声を重ねて改変した動画は増えました。AI音声を使いながら、映像部分には生成AIを使っていないチープフェイクも数多くありました。こうしたチープフェイクは広く見られる偽情報の一種であり、対策が必要です。
AIを全部または一部に用いて生成された音声は、識別がより困難です。ツールによっては、AI生成音声を正確に特定する能力に限界があるためです。音声トラックに背景雑音や音楽が混ざっている場合は、特に難しくなります。これは音声のみの場合にも、動画の一部として使われている場合にも当てはまります。
私たちは情報提供窓口の利用者への啓発に努め、AI生成コンテンツの識別とラベル付けに関するベストプラクティスについて、公共の議論に貢献したいと考えています。定義の標準化に向けて、研究者、検出の専門家、ソーシャルメディア・プラットフォームに意見を求めています。グローバル・デジタルセーフティ連合が策定した「オンライン上の危害の類型」は、有害で誤解を招くAI生成コンテンツに迅速に対処するため、こうしたコンテンツのラベル付けに関する世界的な業界標準を構築する際の参考になるかもしれません。
DAUが学んでいる教訓は、今後行われるインドの州議会選挙で重要になります。そこでは、言語の多様性や地域の事情がもたらす偽情報の課題が、AIによる改変の脅威によってさらに大きくなります。
選挙の「スーパーイヤー」にあたる今年、選挙期間中にAIがどのように悪用されうるかを理解したい多くの国々にとっても、これらの教訓は役立つでしょう。悪意ある者が生成AIを使って人々に害を与え、誤解させるという構図は変わりません。違いを生むのは、高度なAI技術を利用できるかどうかだけです。
