メタ社は、WhatsApp上のディープフェイクコンテンツの検出を支援するホットラインをインドで開設する。
インドのモディ首相は、AIがもたらしうる被害について警告している。
世界経済フォーラムのデジタルセーフティのためのグローバル連合はオンラインリテラシーの向上に取り組んでいる。
メタ社は、インドで新たなホットラインおよびファクトチェックサービスを開始すると発表した。目的は、同社のWhatsAppメッセージングサービス上でのAI生成の「ディープフェイク」コンテンツの拡散を防ぐことにある。
今回の取り組みは時宜を得たものである。2024年には、世界人口の半数が選挙で投票を行う予定である。中でも最大の選挙はインドで実施され、約9億8,700万人が有権者として登録されており、投票は4月と5月に実施される予定である。
インドのナレンドラ・モディ首相は、ディープフェイク動画やその他の改変されたコンテンツが社会に重大なリスクをもたらしうると警告しており、世界最大の民主主義国である同国においてもそうである。
2023年12月に学生に向けて話した際、彼は次のように述べた。「これらの動画は非常に本物らしく見えるため、動画や画像の真正性を信じる前に、我々は細心の注意を払う必要がある。」
それ以前の2023年9月には、モディ首相はG20サミットでの演説において、AIに関する世界的な規制を求めた。インド政府はまた、テック企業に対して直接警告を発し、ディープフェイクコンテンツの投稿および配信を防止する責任を果たすよう改めて求めている。
メタ社のディープフェイクホットラインはどのように機能するのか？
メタ社は、インドの誤情報対策連合（MCA）と提携し、同ホットラインを運営する。
WhatsAppのユーザーは、アプリ内のチャットボットを通じて不審なコンテンツを報告できるようになる。ホットラインは英語、ヒンディー語、タミル語、テルグ語での多言語サポートを提供し、インド国民の幅広い層が利用できるようにする。
本サービスの中核を担うのが「ディープフェイク分析ユニット」であり、これはWhatsAppホットラインを通じて報告されたすべてのメッセージを処理する、MCAの専門チームである。同ユニットは、11のファクトチェック機関、業界パートナー、デジタルラボと協力し、ディープフェイクコンテンツに含まれる誤情報を精査し、暴く。
世界経済フォーラムは、グローバルなサイバーセキュリティの課題にどのように取り組んでいるのか？
サイバーセキュリティセンターは、指導者が一堂に会し、進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供している。同センターは、ますます相互に接続されるデジタル社会において、理解と信頼の構築に重点を置いている。
部門横断的な協力と知見の共有を可能にすることで、同センターはパートナーがサイバーレジリエンスを強化し、共同での対応を必要とする課題に対処することを支援している。
メタ社とMCAは、検知、防止、報告、啓発という4つの成果への取り組みを念頭に、このシステムを構築した。この戦略は、ディープフェイクの拡散に対抗するだけでなく、AI生成の誤情報がもたらす危険について一般市民を啓発することも目的としている。
誤情報対策連合の会長であるバーラト・グプタ氏は、本サービスがインドの民主主義を守る上で極めて重要な役割を果たすと述べている。
「ディープフェイク分析ユニット（DAU）は、AIによって可能となった偽情報の拡散を食い止めるための、重要かつ時宜を得た取り組みとなるだろう。メタ社の支援のもと…DAUが、一般市民にとって、本物のメディアとAI生成のメディアを見分けるための信頼できる情報源となることを期待している。」
ディープフェイクを見分ける方法
潜在的なディープフェイクについて警告を発するため、メタ社のホットラインは、WhatsAppユーザーが合成コンテンツと本物を見分けられることに依存している。ディープフェイクが非常にリアルに見え、聞こえることがあるため、これは困難な課題である。
しかし、あるコンテンツが本物かディープフェイクかを判断する際に注意すべき兆候は存在する。ディープフェイクには、その正体を明かす特徴がある場合があるとサイバーセキュリティ企業ノートン（Norton）は指摘している。これには、不自然な目の動きや表情、感情の欠如、そして異常な肌の色調などが含まれる。
デジタルメディアリテラシーの向上
ディープフェイクコンテンツの増加は、デジタルメディアリテラシーを高める必要性を浮き彫りにしている。ディープフェイクの存在とそれがもたらすリスクへの認識を高めることは、すべての人にとってより安全なオンライン環境の確保に役立つだろう。
世界経済フォーラムのデジタルセーフティのためのグローバル連合（GCDS）は、オンライン上の有害なコンテンツに対処するための官民協力を加速させることを目指しており、新たなオンライン安全規制に関するベストプラクティスの交換の場としても機能する。
4つの中核的な柱のもと、GCDSはデジタルセーフティに関する原則の策定、安全な製品設計とイノベーションのためのツールキット、デジタルセーフティのリスク評価フレームワーク、そしてメディアリテラシー・プログラムを開発するためのベストプラクティスの策定に取り組んでいる。
インドにおけるメタ社のディープフェイクホットラインは、オンライン安全性を向上させ、AIを用いて現実を歪めようとする者から民主主義を守るための技術的解決策が存在することを示している。
しかし、AIがこれまでにないほど事実と虚構の境界線を曖昧にしうる時代に突入するにあたり、私たちは皆、自ら学ぶ必要があるだろう。
