AIベースのプログラムは、社会に不和の種をまき、市場に混乱をもたらすディープフェイクの作成に使われています。
アルゴリズムはまもなく、人間が作成したものと見分けがつかないコンテンツを生み出すようになるでしょう。
偽情報のAI検知を強化するには人間の介入が必要ですが、人々がオンラインコンテンツを客観的に評価できるよう教育することが最優先です。
私たちの社会の安定は、想像しうる何よりも偽情報によって脅かされています。それは大小さまざまな経済をのみ込んだパンデミックです。感情をあおり、社会を分断する大量の誤情報によって、世界中の人々の命と身の安全が脅かされています。その多くは新興技術によって増幅されています。こうしたコンテンツは、人々の認識を操作するか、社会にまったくの虚偽を広めます。
AIベースのプログラムは、動画、音声、画像を加工して政治指導者のディープフェイクを作るために使われています。こうしたディープフェイクは、社会に不和の種をまき、市場に混乱をもたらす可能性があります。AIは、GPT-3のような言語モデルを使って人間らしいコンテンツを生成する能力も高めています。こうしたモデルは、ひと言のプロンプトをもとに記事や詩、エッセイを作成できます。AIによってあらゆる種類のコンテンツを非常に自然に改変できるため、次のようなオープンソースソフトウェアでもFaceSwapやDeepFaceLabを使えば、目立たない素人でさえ社会的不和の中心的な存在になりえます。人間が何を信頼すべきか判断できなくなった時代に、「善のためのテクノロジー」だけが唯一の救いのように見えます。
偽情報を基本的にフィルタリングするための意味解析
テクノロジーで偽情報に対抗する方法として、まず思い浮かぶのはコンテンツ分析です。AIベースのツールはテキストの言語分析を行い、単語のパターン、構文、読みやすさなどの手がかりを検出して、コンピューターが生成した文章と人間が書いた文章を区別できます。こうしたアルゴリズムは、あらゆるテキストについて単語ベクトル、単語の配置、含意を調べ、ヘイトスピーチの痕跡を特定できます。さらに、AIアルゴリズムは改変された画像や動画をリバースエンジニアリングしてディープフェイクを検出し、フラグ付けが必要なコンテンツを明らかにできます。
しかし、それだけでは不十分です。生成敵対ネットワークは非常に高度化しており、アルゴリズムはまもなく人間が作成したものと見分けがつかないコンテンツを生み出すでしょう。さらに問題を深めるのは、改変されていないものの、誤った、あるいは悪意ある文脈や追加コンテンツとともに共有された、ヘイトスピーチ画像内の内容を、こうした意味解析アルゴリズムでは解釈できないことです。また、一部のコンテンツが主張する内容が虚偽かどうかも判定できません。言語の壁も課題を増やします。基本的には、オンライン投稿の真偽ではなく、感情的な傾向を評価できるにすぎません。ここでAIと組み合わせた人間の介入が必要になります。
発信源の追跡：次世代の監視役
フェイクニュースは、ニュースが拡散する前の発信源という同じ根を持つことが多いと分かっています。たとえば、ファンダンゴ・プロジェクトは、人間のファクトチェッカーが偽情報と判定した記事を使い、似た単語や主張を含むソーシャルメディア投稿やウェブページを検索します。これにより、ジャーナリストや専門家はフェイクニュースの発信源をたどり、制御不能な拡散が始まる前に潜在的な脅威を取り除くことができます。
次のようなサービスは、PolitiFact、Snopes、FactCheck人間の編集者を起用し、報道や画像の真偽を確認するために必要な一次調査を行っています。偽情報が見つかると、AIアルゴリズムがウェブを巡回し、社会的不和を招きかねない類似コンテンツに対抗します。コンテンツが本物だと判明すれば、ウェブサイトの記事に信頼度スコアを付与できます。トラスト・プロジェクトは、情報源、参考資料、倫理基準、訂正などの指標を用いて、報道機関の信頼性を評価します。
フェイクニュースやヘイトスピーチが急増し、ソーシャルネットワーク上で急速に拡散するなか、人間のファクトチェッカーだけに頼るのでは不十分です。このプロセスにも偏りがあります。何が不快で社会を分断するかは、人間のファクトチェッカーの主観的な意見によって左右されるからです。たとえば、激しい論調だとされるニュース記事が実際の出来事を扱っていても、感情をあおる言葉遣いをしている場合、あるチェッカーの見解には合致しても、別のチェッカーの見解には合わないことがあります。したがって、このようなフィルタリング方法はコンテンツの真偽を確かめるのに役立ちますが、感情的な傾向は判定できません。
拡散分析で伝播を食い止める
フェイクニュースと本物のニュースでは、ソーシャルネットワーク上での広がり方に明確な違いがあります。MITの研究者によると、Twitterで1,500人に届くまでに、フェイクニュースは本物のニュースの6倍の速さで拡散します。さらに、本物のニュースの連鎖長（ソーシャルメディアの投稿を拡散した人の数）は10を超えたことがありませんが、フェイクニュースでは19に達しました。その一因は、悪意ある者がフェイクニュースを拡散させるために投入する大量のボットです。
人間にも同じだけ責任があります。人々はたいてい、批判的に考えたり判断したりすることなく、フェイクニュースをより速く共有します。GoodNewsは、エンゲージメント指標を使ってフェイクニュースを特定するAIエンジンを採用しています。本物のニュースでは「いいね」が「シェア」を上回るのに対し、フェイクニュースではシェア数がいいね数を上回るためです。拡散状況をもとに疑わしいコンテンツを捉えるこうした手法は、過激化の防止に役立ちます。
人間を中心に
偽情報に対抗するには、事後対応的なテクノロジーの利用ではなく、世界に先を見越した取り組みが必要です。大衆、とりわけ若者に偽情報への警戒を促さない限り、AIだけでは成功しません。インドの一部の学校では、中等教育の生徒に批判的思考の方法を教え、ファクトチェックの習慣を身につけさせています。フェイクニュースは単なるアルゴリズムの問題ではなく、良し悪しを問わず知識にどう向き合うかという哲学の問題です。十分な情報を持つ人々のコミュニティは、倫理的な監視活動に貢献できます。また、専門組織の間で協働的な知識をクラウドソーシングすることは、生の情報を検証するうえで不可欠です。
十分な情報を持ち、批判的に考える社会を築くには、偽情報対策を人間中心のものにすることを最優先しなければなりません。すべての関係者を巻き込む先を見越した対策が欠ければ、メディアや制度への信頼が急速に失われ、無政府状態につながりかねません。人々がオンラインコンテンツを客観的に評価できるようになるまでは、オンラインの偽情報に対抗するうえでAIベースのテクノロジーが私たちの味方となる必要があります。
