ソーシャルメディアがユーザーを過激化させ、暴力を引き起こしてきたことを示す証拠が増えている。
過激主義を抑制する必要性と、表現の自由を保障したいという考えをめぐる議論が高まっている。
テレビ番組の予想が、極右の陰謀論とどう関係するのか。TikTokというアプリは人気があり、14歳未満の子どもたちに利用されているが、両者の間には非常に短い道筋がある。
メディア監視団体が最近公表した2件の報告書によると、TikTokは若いユーザーを比較的無害な関心事から、より懸念される話題へと急速に誘導し、さらには1月に米国議会議事堂で起きた死者を出す襲撃に関与した過激派運動の側へ引き込むことさえある。
インターネットを通じた過激化が、現実に起きている危険な現象であることを示す証拠は着実に積み上がり、臨界点に達しつつあるようだ。では、何をすべきなのか。
Twitterの最高経営責任者（CEO）ジャック・ドーシー氏は、認めた。先月の議会公聴会で、同社のソーシャルメディアサービスが米国議会議事堂での白人至上主義者による襲撃に一役買ったと述べた。ドーシー氏は、議員らに伝えたところによると、Twitterは過激主義と誤情報への対処に取り組んでいる。
今月初め、YouTubeは、暴力的過激主義の助長など規則違反を理由に後に削除された動画が、視聴回数全体に占める割合を初めて公表した。しかし、動画が消えるまでに稼ぐとみられる、目を見張るような視聴回数の合計、つまり「驚くべき」数字を明らかにするには至らなかった。
デジタル世界と現実世界が衝突し続けるなか、私たちが作成し、目にし、共有するコンテンツに左右されるオンライン上の安全は、疑いなく私たち自身の安全となる。
ファラー・ララニ（世界経済フォーラム、メディア・エンターテインメント・情報産業コミュニティ・キュレーター）、キャシー・リー（世界経済フォーラム、メディア・エンターテインメント・スポーツ産業部門責任者）
ソーシャルメディアのアルゴリズムが張り巡らす触手は、驚くほどわずかなきっかけで、人々を排外主義、人種差別、反ユダヤ主義、宗教的過激主義のメッセージが連鎖する渦へと引き込む。現実世界での結果は積み重なっている。一部のコンテンツは間接的な影響にとどまったとしても、反科学プロパガンダが数千人の命を奪ったと非難されているように、その影響は同じく致命的だった。
12月に発表された報告書によると、YouTubeを含むソーシャルメディア・プラットフォームは、2019年にニュージーランドのクライストチャーチでモスクを襲撃し、51人が死亡したテロ事件の実行犯を過激化させる一因となった。報告書は、実行犯が「グレート・リプレースメント（大置換）」説を信じていたと指摘した。この説は、白人の人口集団が力を奪われ、有色人種に置き換えられていると主張するもので、米国議会議事堂の暴徒の間でも広まっていた。
フランスの作家は、およそ10年前にグレート・リプレースメント説を広めた人物とされている。それ以来、この説は「ジェネラシオン・アイデンティテール（Génération identitaire）」などの団体によってオンラインで盛んに宣伝されてきた。同団体はフランス政府によって先月禁止された。
インドでは、Facebookは暴力的な宗教過激主義者への対応に苦慮してきた。同社は、従業員の安全や事業の見通しを損なうことを懸念し、彼らの利用を禁止しなかった。オーストラリアでは最近、政府当局者が、同国の右翼過激派によるオンラインでの勧誘方法と、イスラム国が用いた手法との類似点を指摘した。
（イスラム国は中東で敗北を喫したが、オンラインでの存在感を高める最近の取り組みでは、アフリカに新たなカリフ制国家を樹立することがフォーラムで話題になっている。）
ドイツで行われたある研究は、オンライン上の反難民感情と暴力的な襲撃との直接的な関連を明らかにした。右翼政党のソーシャルメディア投稿が、一部の潜在的な実行犯を「一線を越えさせた」可能性が高いと示唆している。
オンライン過激主義を抑えようとする方法の一つは、最も人気があり問題を引き起こす扇動者をプラットフォームから排除することだ。しかし、彼らはしばしば、単に移るだけでよりいかがわしいインターネットの片隅へ行き、フォロワーを連れていくことができる。
そのため、ほぼ自主性に任されてきた業界に対し、より厳しい規則や規制が導入される可能性がある。米国のある議員は先月、ソーシャルメディアが過激主義を助長する役割をめぐる議会公聴会の冒頭で、こう宣言した。「自主規制は行き詰まりを迎えた。」
責任あるメディアのためのグローバル・アライアンスは、世界経済フォーラムと連携し、デジタル環境の安全性を高め、有害で誤解を招くメディアに対処し、消費者とブランドを保護する取り組みを進めている。
さらに詳しく知るため、世界経済フォーラムの戦略インテリジェンス・プラットフォームから、関連資料を紹介する。
白人至上主義者とイスラム過激派への聞き取り調査に基づくこの米国の研究は、3分の2を超える事例で、インターネットやその他のメディアを通じたプロパガンダへの接触が過激化に関与していたことを示した。（RAND）
この報告書によると、パキスタンのシーア派コミュニティが標的にされている。2020年8月から9月にかけて、同国のシーア派に関するソーシャルメディア投稿のほぼ半数が否定的な内容で、最も頻繁に使われた言葉はウルドゥー語で「不信心者」を意味する語だった。（ザ・ディプロマット）
友人がYouTubeの誤った沼にはまり、別の言葉を話すようになって戻ってくる、そんな状況を語るための言葉を作らなければならないと、この記事は述べている。ソーシャルネットワークが絶望や恐怖につけ込む仕組みを、もっと説明する必要があると論じている。（ニーマン・ラボ）
インドは両国間の緊張を背景に、中国製アプリを数十件禁止し、国産の代替アプリを立ち上げた。この記事によると、こうしたサービスが過激派組織による乗っ取りに抵抗できる態勢を備えているかどうかは不明だ。（オブザーバー・リサーチ財団）
「自分たちがひどいものを作ってしまったと信じたい人はいない」。オンラインの偽情報や陰謀論を取材する記者が、私たちの最悪の衝動を増幅させるテクノロジー企業の責任の欠如を掘り下げている。（ニーマン・ラボ）
この記事によると、新型コロナウイルス感染症により、オーストラリアの若者は孤立し、極右の憎悪をあおるメッセージにさらされやすくなった。同国の情報共有パートナーである「ファイブ・アイズ」全てが、右翼過激派組織をテロ組織に指定しようとしていると指摘し、オーストラリアも同じ厳格さで追随すべきだと論じている。（ASPI）
政府の取り締まり策が批判を招く場合もある。誤情報対策を表向きの目的としてインドが導入した、オンラインで発言できる内容を定める「過酷な」新規則は、プライバシーと表現の自由に重大な影響を及ぼすと、この分析は述べている。（EFF）
「戦略インテリジェンス・プラットフォームでは、インターネット・ガバナンス、平和とレジリエンスなど、数百のテーマに関する専門家の分析を閲覧できる。閲覧には登録が必要。
