今年の年次総会の二つのセッションに登壇したパネリストたちは、オンライン上の偽情報への対処において取るべきバランスについて議論した。
複雑さ――偽情報を食い止めつつ表現の自由を守ること――が、コンセンサスの形成を困難にしている。
前進するための方策として、五つの優先事項が浮かび上がった。
陰謀論、偽情報、フェイクニュースがインターネットの周縁に限られていた時代は、とうに過ぎ去った。今やこれらは世界の主流の議論の一部となり、選挙に影響を及ぼし、市場を混乱させ、言論の自由の境界に挑戦している。世界経済フォーラムの『グローバルリスク報告書2025』で明らかになったように、偽情報は2年連続で短期的な最大のリスクであり続けている。偽情報は信頼を損ない、分断を深め、ガバナンスと国際協力を弱体化させる力を持つ。規制は技術変化の速さに依然として追いついておらず、このリスクは持続しているだけでなく、拡大している。
今年の世界経済フォーラム年次総会では、二つの主要セッション――「選挙における真実対虚偽」および「モデレートすべきか、すべきでないか」――が、偽情報の拡大、コンテンツ・モデレーションのジレンマ、民主的な健全性、人権、技術革新の間の脆弱なバランスを検討した。パネリストらは現在の方向性が持続不可能であることで一致したが、問題は、デジタルプラットフォームが直面する複雑な状況の中でコンセンサスを形成できるかどうかである。有害なコンテンツを抑制する責任を果たしつつ、表現の自由を損なったり、社会の分断をさらに深めたりしないことが求められている。
偽情報：民主主義への脅威
2024年には世界人口の50%が投票所に足を運んだが、虚偽の言説や誤解を招く情報が世界中の政治情勢を形作り、地政学的な分断を深めた。
モルドバの事例は示唆に富む。同国のドリン・レアン首相は、外国の偽情報ネットワークが、軍服を着た子どもたちがEU旗の横に立つAI生成のディープフェイク映像を拡散することで同国の選挙に介入し、EU統合は戦争につながると虚偽の主張をしたと説明した。偽情報は単なる嘘ではない。恐怖、感情、分断に関わるものである。「彼らはEUを戦争と結びつけ、『ウクライナで何が起きたか見てほしい。EUを望むなら、モルドバでも同じことが起こる』と言おうとしている」とレアン首相は警告し、モルドバのGDPの2.5%が偽情報攻撃に投じられたと付け加えた。
ガバナンスとモデレーション：オフラインのルールとオンラインの現実
政府が偽情報の影響の重大さを理解し始める中、欧州委員会のデジタルサービス法（DSA）が、説明責任に関する議論の基準として浮上している。「オフラインで違法なものは、オンラインでも違法でなければならない」と、フランスの欧州担当大臣ジャン＝ノエル・バロ氏は述べた。「アルゴリズムの透明性は譲れない」と同氏は主張した。「フランスでは、人種差別的または同性愛嫌悪的な発言は違法であり、裁判所で裁かれうる。したがって、プラットフォームもオンラインで同じルールに従うべきだ。偽情報に関しては、DSAはプラットフォームに対し、偽情報に伴う体系的リスクを軽減する措置を講じるよう求めている。特に若い世代が情報とどのように関わっているかを踏まえると、これはますます不可欠になっている。」
しかし、戦略対話研究所のサシャ・ハブリチェク氏は、単純化しすぎることに警鐘を鳴らし、悪意ある主体がデジタルプラットフォームの開放性を悪用し、ボットネットや偽アカウントといった欺瞞的な手法を使って、一般ユーザーには見えない形で公共の議論を歪めていると警告した。「アルゴリズムのインフラは、あなたを最も引きつけそうなものを何でも増幅させる。注目経済のビジネスモデルは、穏健なものよりも、扇情的で極端なものを不均衡に増幅させる」と同氏は述べた。
何十億人ものユーザーのモデレーションは容易ではない。コンテンツ・モデレーションは、技術的に複雑であり、政治的にも論争の的となっている。欧州委員会で民主主義、司法、法の支配を担当するマイケル・マクグラス委員によれば、2024年だけで主要プラットフォームは16億件のコンテンツをモデレートした。「表現の自由は守られなければならず、この点に疑問の余地はない。それは譲れないものだ。しかし、適切なバランスを取るための防護策がある」と同委員は付け加えた。
大規模なモデレーションには落とし穴がある。ヒューマン・ライツ・ウォッチの元事務局長ティラナ・ハッサン氏は、悪用を防ぐため、モデレーション政策は人権の原則に基づくものでなければならないと強調した。「モデレーションは沈黙させるのではなく、保護するものであるべきだ。過剰な規制は権威主義的な統制を可能にするリスクがある」と同氏は述べた。「デジタルとヒューマンの両面で質の高いコンテンツ・モデレーションに投資することは、法的義務を果たすことにつながりうる。両者は相反しない」とも述べた。ハッサン氏はまた、脆弱な集団をオンラインで守る必要性を強調し、一部のケースでは、彼らがプラットフォーム上で誘い出され、暴露され、身体的危害や避難の危険にさらされていると指摘した。
国連人権高等弁務官のフォルカー・テュルク氏は、「こうした製品の多くは紛争や危機の状況で使われることになり、非人道的な扱いや更なる暴力を助長するために使われないよう、責任が一層高まる」と警告した。
AI：増幅装置か、解決策か
一方で、テック企業はパラドックスに直面している。生成AIは虚偽や誤解を招くコンテンツの拡散を加速させてきたが、それを特定しフィルタリングする可能性も秘めている。こうした課題の一部は、プラットフォームの構造や、予期しない社会的影響を伴う形でコンテンツを増幅させることが多いアルゴリズムに起因している。
ハブリチェク氏によれば、エンゲージメント優先のアルゴリズムは、コンテンツよりも論争を助長する。「注目経済があるため、これは表現の自由の環境ではない。それは選別された環境であり、テック大手が、収集したデータと自社が得ようとする利益に基づき、最終的にあなたが何を目にするかを決めている」と同氏は述べた。
責任は機関だけにあるわけでもない。『2025年エデルマン・トラスト・バロメーター』によれば、世界全体で40%が、人々をオンラインで攻撃したり、意図的に偽情報を広めたりすることを含む敵対的活動主義を、社会変革のための正当な手段として支持すると答えている。この傾向は18～34歳の回答者で特に顕著であり、そのうち53%が、自分が支持する大義のために意図的に偽情報を広めることを支持すると答えている。この憂慮すべき動向は、信頼の危機が深まっていることを反映している。人々は今や、かつては非倫理的とみなされていた手法を受け入れつつある。
次に向けた五つの優先事項
ダボスで行われたこれら二つのセッションでは、偽情報の影響やソーシャルメディアのコンテンツをどうモデレートするかについての分析が示されただけでなく、今後の方向性も示された。偽情報の課題にどう対処するかについて浮かび上がった主要な優先事項は以下のとおりである。
手段としての透明性：プラットフォームは、コンテンツがどのように拡散されているかについての精査を認めるべきである。「権威主義体制が検閲で応じるなら、我々は鋭い透明性をもって対応しなければならない。それは、独立研究のためのデータへのアクセスを得ることを意味し、それによって、これらのシステムが公共の議論に与える影響を評価できる」とハブリチェク氏は述べた。
メディアリテラシー：教育と批判的思考は、偽情報に対する最善の予防接種である。「若者に、信頼できる情報とそうでないものを見分けさせる教育は有益であり、必要でもある。ただし、それは偏りなく行われなければならない。人々に自分自身で考える方法を教えることが重要なのだ」と、アルマー・ラトゥール氏は述べた。同氏は『ウォール・ストリート・ジャーナル』のCEOである。
多者間ガバナンス：政府、テック企業、市民社会は、表現の自由と安全の両方を守るルールを共同で策定すべきである。モデレーションは抑圧ではなく保護するものであるべきだ。しかし、透明性がなければ、偽情報を別の種類の歪みと引き換えにするリスクがある。それは、ごく少数の者だけが何が見えるかを決める状況である。「事実、証拠、科学に基づいて議論し、世界が切実に必要としている政策的解決策を見出せる、開かれた公共空間が必要だ」とテュルク氏は付け加えた。
倫理的なテック設計：：プラットフォームは安全を最優先すべきであり、子どもの約50%が偶発的に有害コンテンツに遭遇している。「我々は、インターネットの前向きな一角を築いている。16歳未満のユーザーだけを対象とした非公開のもので、最も脆弱なユーザーの安全を確保したいと考えたため、これは私たちにとって非常に重要だった」と、ピンタレストのチーフ・リーガル・アンド・ビジネス・アフェアーズ担当であるワンジ・ウォルコット氏は述べた。WeProtect Global Allianceのイアン・ドレナン氏は、子どもの保護の緊急性について同調し、「適切に設計された規制のための、設計段階からの安全性」を求めた。
バランスの取れたコンテンツ・モデレーション：：効果的なモデレーションには、表現の自由を促進しつつ危害を防ぐ、ニュアンスのあるアプローチが必要である。「表現の自由は絶対的なものではない。最も脆弱な人々を守るために必要な一定の制限が存在する。デジタルプラットフォームのモデレーションと責任もまた、ビジネスモデル、政策、技術が国際人権に沿ったものであることを確実にするうえで重要である」とハッサン氏は述べた。
真実は自らをモデレートしない
ジャーナリストと市民社会組織は、調査報道、ファクトチェック、公教育の取り組みを通じて、偽情報への対抗において重要な役割を果たす必要がある。ラトゥール氏は、メディアへの公共の信頼を回復するために、編集の独立性と透明性を維持することの重要性を強調した。「過去1年間（選挙に関して）偽情報が大きな役割を果たさなかったという見方は、とんでもないことだ。それこそが誤情報だ」と同氏は付け加えた。
世界経済フォーラムは、オンラインの安全性の向上に向けて何をしているか？
アルゴリズムによる増幅と合成コンテンツが支配する時代において、偽情報への対抗には、技術的解決策や規制の枠組みだけでは不十分である。批判的思考、透明性、そして回復力に根ざした共同の責任が求められる。
公開の議論は民主主義にとって不可欠である。信頼の再構築はコンセンサスの問題ではない。真実のための闘いは「勝つこと」ではない。多様な視点が敵意なく共存できる環境を育むことである。
