オンラインの偽情報対策における、保護と検閲の最適なバランスとは

陰謀論、偽情報、フェイクニュースがインターネットの片隅にとどまっていた時代は、もはや過去のものとなりました。現在、これらはグローバルかつ主要な議論の一部となり、選挙に影響を与え、市場を混乱させ、言論の自由の限界に挑んでいます。世界経済フォーラムの「グローバルリスク報告書2025」では、偽情報が2年連続で短期的リスクの最上位に挙げられました。偽情報は信頼を損ない、分断を深め、統治や国際協力を弱体化させる力を持っています。技術革新の急速な進展に対し、規制が追いついていない現在、こうしたリスクは継続するだけでなく、拡大していくでしょう。

2025年の世界経済フォーラム年次総会では、「Truth vs. Myth in Elections（選挙における真実対神話）」と「To Moderate or Not to Moderate?（モデレーションすべきか否か）」をテーマとした2つの主要なセッションを開催。偽情報により増大する課題、コンテンツモデレーションのジレンマ、そして民主主義の健全性、人権、技術革新の間の繊細なバランスについて議論が交わされました。「コンテンツモデレーション」とは、オンライン上の不適切なコンテンツを監視・排除することを指します。パネリストたちは、現在の状況が持続不可能である点について一致しました。一方、デジタルプラットフォームがますます複雑になる中、どのようにして合意形成を図ることができるのかが問われています。つまり、表現の自由を損なうことなく、社会の分断を助長せずに、有害なコンテンツを責任を持って抑制することが求められているのです。

2024年は、世界人口の50％が選挙で投票した年でした。同時に、虚偽の言説や誤解を招く情報が各国の政治情勢に影響を与え、地政学的な分断をさらに深めました。

その象徴的な事例が、モルドバです。同国のドリン・レチャン首相は、国外からの偽情報ネットワークがAI生成のディープフェイクを用いて選挙に干渉したことを明らかにしました。ディープフェイクの映像の中には軍服を着た子どもたちがEUの旗のそばにいる場面が含まれ、「EU加盟は戦争につながる」という偽りの主張を発信しました。偽情報は単に嘘であるだけでなく、恐怖や感情、分断を煽る力を持っています。レチャン首相は「彼らはEUを戦争と結びつけ、『ウクライナを見てみろ。EUを望めばモルドバも同じ目に遭う』と主張している」と警告。モルドバのGDPの2.5％が偽情報攻撃に使われていると付け加えました。

各国政府が偽情報の影響を理解し始める中、説明責任に関する議論のベンチマークとして欧州委員会のデジタルサービス法（DSA）が浮上しました。フランスのヨーロッパ・外務大臣であるジャン=ノエル・バロ氏は「オフラインで違法なものは、オンラインでも違法でなければならない」と述べています。「アルゴリズムの透明性に関して交渉の余地はない」と同氏は主張し、「フランスでは、人種差別的または同性愛嫌悪的な発言は違法であり、裁判所で裁かれる可能性があります。プラットフォームも同じ規則に従うべきです。DSAはプラットフォームに対し、偽情報に伴う体系的リスクを軽減する措置を取るよう求めています。特に若い世代の情報との関わり方を考えると、その重要度は増しています」。

一方、ロンドンのシンクタンクである戦略対話研究所（ISD）のサーシャ・ハブリチェック氏は、過度の単純化に対して警鐘を鳴らしています。ボットネットや偽アカウントといった欺瞞的な手法を用い、一般ユーザーには見えない形で公共の議論を歪めるなど、悪意ある関係者がデジタルプラットフォームの開放性を悪用していると指摘。「アルゴリズムは、ユーザーの関心を最も引くものを増幅する仕組みになっています。『アテンション・エコノミー』のビジネスモデルは、穏健な意見ではなく、最もセンセーショナルかつ過激なコンテンツを過剰に拡散してしまう」と同氏は述べています。

数十億人のユーザーを監視するのは容易ではありません。技術的に複雑であるだけでなく、政治的な論争の火種にもなっています。欧州委員会民主主義・司法・法の支配・消費者保護担当委員であるマイケル・マグラー氏によると、2024年だけでも、主要プラットフォームにおけるコンテンツモデレーション件数は16億件に上ります。「表現の自由が守られなければならないことに議論の余地はありません。ただし、適切なバランスを取るための制約は必要」であると同氏は語っています。

スケールの大きなモデレーションには落とし穴が伴います。ヒューマン・ライツ・ウォッチ代表であるティラナ・ハッサン氏は、モデレーションの方針が人権の原則に基づいていない限り、乱用につながる可能性があると強調。「コンテンツモデレーションは人々を沈黙させるのではなく、保護するためにあるべきです。過度な規制は独裁的な支配を助長するリスクがあります」と同氏は述べています。さらに、「デジタルと人間による質の高いモデレーションへの投資は、法的義務を果たす手段となり、これらは必ずしも対立するものではありません」と付け加えました。ティラナ氏はまた、脆弱な人々がプラットフォーム上でおとりにされ、晒されることで、身体的危害や住居喪失のリスクを負うこともあると指摘しています。

国連人権高等弁務官のフォルカー・テュルク氏は、「これらの製品の多くは危機や紛争の状況下で使われがちです。そうした状況において、人間性を奪い、さらなる暴力を助長することがないよう、さらなる責任が求められます」と警告しました。

一方、テック企業はある矛盾に直面しています。生成AIは虚偽情報や誤解を招くコンテンツの拡散を加速させる一方、同時にそれらを特定しフィルタリングする可能性も秘めているからです。こうした課題のいくつかは、プラットフォームの構造や、予期せぬ社会的影響をもたらす形でコンテンツを増幅させるアルゴリズムに起因しています。

ハブリチェック氏によると、エンゲージメント重視のアルゴリズムは、コンテンツの内容より論争を優先します。「アテンション・エコノミーにより、（オンラインプラットフォームは）もはや自由な言論の場ではなく、選別された環境になっています。テック大手が、収集したデータと得られる収益に基づいて、私たちが何を見るかを最終的に決定している」と同氏は述べています。

問題は制度や組織だけではありません。「2025エデルマン・トラスト・バロメーター」によると、オンラインで人を攻撃し、意図的に偽情報を拡散する敵対的なアクティビズムを、変化を促す正当な手段として世界の40%の人が支持。この傾向は特に18〜34歳の層で顕著であり、53%が「自分の支持する大義のためであれば、意図的な偽情報の拡散を容認する」と回答しています。この憂慮すべき傾向は、信頼に対する深刻な危機を示しています。かつては非倫理的とされていた手法を個人が積極的に受け入れるようになってきているのです。

ダボスで開催されたこれら2つのセッションでは、偽情報がもたらす影響やソーシャルメディアコンテンツのモデレーション方法について分析するだけでなく、今後の方向性も提示されました。以下は、偽情報の課題に対処する上で挙げられた主要な優先事項です。

ジャーナリストや市民社会組織は、調査報道、ファクトチェック、そして公共教育の取り組みを通じ、偽情報に対抗する上で重要な役割を果たす必要があります。ラトゥール氏は、メディアへの信頼を再構築するため、編集の独立性と透明性を維持することの重要性を強調。「過去1年の選挙において偽情報が大きな役割を果たさなかったという主張は、非常識であり、それ自体が誤情報です」と付け加えました。

アルゴリズムによる拡散と合成コンテンツが支配する時代において、偽情報への対抗には、技術的な解決策や規制の枠組みだけでは不十分です。批判的思考、透明性、そしてレジリエンスに根ざした、共同責任が求められます。

民主主義にとって開かれた議論は不可欠です。信頼の再構築は、単なる合意形成のためではありません。真実のための闘いの目的は、「勝つ」ことではなく、異なる視点が敵意なく共存できる環境を育むことにあるのです。