高度なAIと合成メディアは、現代の民主主義を不安定化させる恐れのある、世界的なシステム危機を引き起こしています。
機会主義的な勢力は、心理プロファイリングや感情の引き金を利用して世論を操作し、社会の分極化をあおっています。
これに対する社会のレジリエンスを築くには、強固な検証システムに加え、先を見越した教育や規制の枠組みに投資する必要があります。
大きな問題を解決し、混沌とした世界を生き抜くには、まず事実について明確で共通の理解を持つ必要があります。しかし今日、ソーシャルメディア、オンラインチャット、人工知能（AI）などの技術により、機会主義的な勢力は、恐怖、不安、怒りといった強い感情を呼び起こすよう意図的に仕組まれた、操作的で混乱を招く言説を人々に向けて発信できるようになっています。
偽情報を拡散する者は、認知的な操作から、金銭的、政治的、身体的、社会心理的な利益を得ようとします。政府や企業の政策、社会的に疎外されたコミュニティの扱われ方、基本的な人間のニーズが満たされるかどうかにも影響を及ぼします。
世界経済フォーラムの『グローバルリスク報告書2026』では、誤情報と偽情報が地経学的対立や社会の分極化と並び、短期的な世界的リスクの上位に挙げられました。これは、2年後と10年後のいずれの時間軸でも深刻さが続く数少ないリスクの一つであり、リストにある他のすべてのリスクを引き起こす、または悪化させる要因とみられています。
オンライン上のリスクからシステム危機へ
2026年、広範に広がる情報の混乱は、社会を不安定化させるシステム上の力となり、民主主義を揺るがし、社会の結束を損ない、既存の問題を悪化させる可能性があります。景気後退から気候関連の危機まで、さまざまな問題がその対象です。
今年は重大なストレステストとなります。犯罪的な独裁体制を際限なく定着させかねない選挙、長引く経済の不確実性、いっそう先鋭化する分極化と帝国主義、そしてより高度なAIを介した言説に直面しています。こうした動向は、現実とほとんど見分けがつかなくなったAI生成のディープフェイクによってさらに形作られています。何が正確なのかを見極めにくくなり、機会主義的な勢力は真実から目をそらすためのもっともらしい否認の余地を得ています。
民主主義が強まるか弱まるかは、オンライン技術の普及とともに崩れてきた3つの基本的な柱を再興できるかどうかにかかっています。それは、検証、熟議、説明責任です。コミュニティは、何が真実かについての集団的な信頼（検証）に投資し、率直な好奇心や議論、討論のための安全な場（熟議）を設け、違法な機会主義的勢力にその被害の責任を負わせる（説明責任）ことで、偽情報に対するレジリエンスを築けます。
情報の感情的な武器化
一部のAIシステムや機会主義的なインフルエンサーは、コンテンツを積極的に操作して、強い感情的反応を引き起こします。行動面や心理面のプロファイリングを使って、標的集団に受け入れられる、あるいは特定の反応を促すメッセージを仕立てます。その結果、読者に情報を伝える代わりに、怒りや恐怖をあおるコンテンツが生まれます。
感情操作の影響を受けやすい人々は、マイクロターゲティングを使って容易に特定できます。これは、本人がオンラインで申告したデータから性格タイプを明らかにする手法です。対象を特定すると、感情に響くメッセージが選ばれます。以前からの信念を裏付けたり、怒りや憤りをかき立てたり、面白いと思われたりするため、共有される可能性が高いからです。これにより分極化が強まり、偽情報がより広い層に届くようになります。
こうした影響は、大手テクノロジーメディア・プラットフォームのインセンティブ構造によってさらに増幅されます。そのアルゴリズムは、多くの場合は金銭面で、エンゲージメントに報いるとともに、自己愛を心地よく満たすドーパミンの刺激ももたらします。その結果、憤りはより早く広がります。ファクトチェックが行われる前に、即座の共有を引き起こすためです。
2024～2025年の選挙サイクルから得られた証拠は、複数の国でAIシステムがコンテンツを感情的な影響が最大になるよう最適化したことを示しています。同様に、2024年の研究では、TikTokを利用する若い有権者がAI生成や捏造による政治指導者の動画を含む、誤解を招く政治コンテンツに日常的にさらされていたことが分かりました。こうしたコンテンツが本物の投稿と並んで表示されることで、流れの速い短尺動画のソーシャルフィードでは、パロディと事実を見分けることが難しくなっていました。
合成メディア
ディープフェイクは2026年、重大な転換点を越えました。品質が向上し、以前は見分ける手がかりだった不自然な点が解消され、今ではスマートフォンがあれば誰でも利用できます。生成AIモデルの急速な発展に伴い、情報が悪用される手口は大きく変化しました。
2024年と2025年の選挙では、音声のクローンや、人物の姿を模したディープフェイクが、より一般的なリスクとなり、民主政治の現場で実際に使われるようになりました。2025年のアイルランド大統領選挙では、ディープフェイク動画が最終的な勝者の立候補取り下げを偽って描き、国営放送局がニュースを「確認」する偽映像も含んでいました。投票日のわずか数日前に公開されました。オランダでも同様に、政治的な対立候補を攻撃するために、AI生成の画像が約400点使われました。
ディープフェイクが他の形態のコミュニケーションよりも操作に効果的かどうかについて、証拠は一様ではありません。しかし、ディープフェイクが標的とされた候補者に対する有権者の印象を悪化させることを示す証拠は増えています。
2026年には各大陸で選挙が相次ぎ、特定の国々では民主主義の後退が取り返しのつかないものになる危険があります。合成メディアの拡散速度と規模は、リスクをさらに高めます。実際、ディープフェイクの存在を知っているだけで、私たちは読んだり見たりしたものを疑うようになることがあります――真実でさえも。
偽情報に対するレジリエンス
偽情報は歴史を通じて社会の一部であり、今後も続くでしょう。しかし今日の技術によって、その巧妙さと到達範囲は増幅しているようです。だからこそ、私たちはレジリエンスを築かなければなりません。自分の考えを述べる基本的権利を損なうことなく、偽情報がもたらす悪影響から身を守る方法を見つけるのです。
コミュニティが検証、熟議、説明責任の仕組みに投資することで、レジリエンスを高められます。
教育によってもレジリエンスを高められます。たとえばフィンランドでは、小学生が有害で操作的な情報の標的にされているとき、それを見抜き、評価する方法を学びます。より広く言えば、人々が次の6つの基本的な問いを自分で考えられるようにする教育が、レジリエンスにつながります。私に連絡しようとしているのは誰か。どのように、なぜ私を見つけたのか。私に連絡することで、相手は何を得るのか。そのメッセージの正確さを検証できるか。そのメッセージを受け入れることで、自分が害を受ける危険はあるか。そのメッセージをさらに共有することで、他者に害を及ぼすおそれはあるか。
また、物語による予防接種によってもレジリエンスを強化できます。機会主義的な勢力の手口が広がる前にそれを明らかにし、潜在的な操作に備えるよう人々に促す方法です。
研究の進展により、偽情報を見抜いたり、警告を発したりする能力を高める手段が生まれつつあります。複数の手法を組み合わせることで、ディープフェイクの検出が可能になりつつあります。ディープフェイクには、画像のノイズパターンの不一致や色のずれ、動画のリップシンクの誤りや不自然なまばたきなどの不整合がよく見られますが、こうした特徴はますます見つけにくくなっています。最新世代のディープフェイクでさえ、鑑識ツールが検出できるピクセルレベルの痕跡を残します。
拡散パターンを追跡することも役立ちます。悪意のあるディープフェイクは、ボットや荒らしのネットワークを通じて広がることが多いためです。アカウントのメタデータ（作成日、投稿の頻度など）や行動を調べれば、簡単に追跡できます。こうした対策は選挙、金融詐欺、紛争や政治に関する報道の場面で特に有効です。個々の利用者の検出能力だけに頼るよりも、効果的な方法となります。
偽情報は、単なるコンテンツのモデレーション課題ではなく、ガバナンスとリスク管理の問題として扱うことが不可欠です。EU AI法は、リスクに応じた義務を通じて、この転換を反映しています。第50条は、AI生成コンテンツやディープフェイクへのラベル表示、合成されたやり取りの開示を義務付けています。2026年8月から執行可能となり、罰金は世界売上高の最大6%に達します。リスクの分類、文書化、人間による監督、市場投入後の監視を重視する同法は、大規模な偽情報の抑制に向けたひな型となります。
2026年のストレステスト
偽情報が認知に及ぼす影響は、今後数年間の社会の進化を左右するでしょう。『グローバルリスク報告書2026』が示すように、偽情報は信頼を損ない、選挙から経済危機まで、あらゆる衝撃を増幅させることで、主要なリスクのすべてを悪化させます。2026年は、制度、社会、プラットフォームが偽情報危機を乗り越えるのに十分な速さで適応し、検証し、熟議し、違法な機会主義的勢力に責任を負わせる力を保てるかどうかが試される年となります。
