ウクライナ侵攻により、オンラインの安全性に関する数多くの問題が生じ、深刻化しました。
大手デジタルプラットフォームは、人々の搾取、誤情報や偽情報、世界的に続く過激主義の台頭などの問題に対処するため、方針や慣行を変更してきました。
こうした問題を踏まえ、新たな規制は、プラットフォームの説明責任や透明性、オンライン上の利用者の安全に取り組むことを目指しています。
ウクライナ侵攻から生じたデジタル安全上の課題は数多く、人身取引や搾取の増加、誤情報や偽情報の拡散、暴力的な過激派やテロリストの活動の増加などが含まれます。
人身取引と搾取
前例のない数の人々が、ウクライナでの武力暴力から逃れて西へ向かっています。悪意ある者たちはこれを機に、女性や子どもを標的にして人身取引や搾取しようとしています。Thompson Reuters Special Servicesのデータによると、人道危機の発生以降、「ウクライナ人ポルノ」の世界の検索数は600%増加し、「ウクライナ人エスコート」の検索数は200%増加しました。こうした需要は、人身取引のビジネスモデルが主にオンラインへ移行した時期に、ウクライナ人女性を大規模に勧誘し搾取する金銭的動機を人身取引業者に与えていると、OSCE特別代表兼調整官事務所（OSR/CTHB）は述べています。
誤情報と偽情報
ウクライナ侵攻の理由についての虚偽情報――「失敗国家」を「非ナチ化」するため、といった主張――が広まっています。ウクライナ戦争に関する誤情報の多くは、Covid-19のパンデミック中に主流だったテキストベースのコンテンツとは異なり、画像や動画の形で生成・拡散されています。視覚コンテンツの評価にはモデレーターや自動化システムがより多くの時間を要するため、こうしたコンテンツに含まれる虚偽情報のモデレーションは、はるかに困難です。また、共通言語への依存度が低く、テキストベースのコンテンツより強い感情的訴求力を持つことがあり、地域を越えて共有されやすく、その可能性も高まります。
過激主義、憎悪、暴力が広がる中でのデジタルの安全性
ウクライナ戦争が始まる前から、世界では白人至上主義による暴力の増加がすでに記録されており、同時にオンラインの過激派コミュニティも拡大していました。侵攻を受け、世界各地のさまざまな白人至上主義団体や過激派グループに、複雑な影響が生じています。
信頼と安全性の確保に積極的に取り組むスタートアップ企業ActiveFenceによると、世界各地の過激なネオナチや白人至上主義者は、ウクライナを支援するかのように装いながら、自らの主張を広めています。テロ対策の専門家は、西側諸国の分断を利用するクレムリンの戦略の重要な要素として、国境を越えた白人至上主義者を利用し、人種や民族を動機とする暴力的過激主義を促進していると指摘しています。
残念ながら、デジタルチャネルによって、暴力的な過激派やテロリストの活動に関連する人員の勧誘、資金集め、活動推進が容易になっています。特に、代替テック・プラットフォームを通じた活動が目立ちます。The RAND Corporationの報告書は、デジタルチャネルの拡大と、極右過激派によるオンライン活動の増加が同時に進んできたことを説明しています。近年の動向からは、攻撃を公表し、ソーシャルメディアを利用することが、テロの新たな常態となっていることが示されています。
デジタルプラットフォームの対応
大手 デジタル プラットフォームは侵攻に対して一貫した姿勢を示し、ロシアの偽情報や国営メディアに対抗するため、方針や慣行を変更してきました。こうしたプラットフォームは、中立を保つよりも、ウクライナの利用者を守り、民主主義国家の政府との結びつきを強めるために、概ね結束してきました。Human Rights Watchなどは、ソーシャルメディア企業の対応を注意深く監視しています。これには、ロシアの国営・政府支援メディアを遮断するだけにとどまらない措置も含まれます。
こうした決定は将来の先例となり、過去および現在の紛争について疑問を提起します。また、答えなければならない重要な問いも浮き彫りにしています。
1. プラットフォームが独自に下す決定の偏りを減らすため、より広範な戦時の手順や慣行をどのように策定すべきでしょうか。
専門家は、戦時のプロセスと手順を整備することが有効だと提案しています。これは、ニュージーランドで2019年に起きたクライストチャーチ銃乱射事件後に策定された手順を大まかな参考とし、戦闘が始まった際に状況に応じて柔軟に適用できるもので、戦時に一貫した対応を確保する助けとなり得ます。
紛争時にコンテンツを削除したり、その他の方法でモデレーションしたりする場合、プラットフォームは偏りや恣意的な措置を避け、プラットフォーム・ガバナンスに積極的かつ体系的に取り組むため、確立された一連の慣行に基づいて行うべきです。
2. 危機の際、コンテンツモデレーションの速度や正確性、その他の品質指標に関する評価基準や期待値を、どのように調整すべきでしょうか。
大規模な紛争ではデジタル安全に関する判断を正しく行うことがいっそう重要になる一方、頻繁な方針変更や大量のコンテンツに対応しながら、モデレーターやシステムが正確な執行を維持することはより困難になります。現在、プラットフォームが自社サイト上のコンテンツや行為をどのようにモデレーションするかについて、「十分な」救済措置や対応時間、その他の主要指標に関する、強制力のある基準はありません。
3. プラットフォームは、証拠として利用するため、暴力的なコンテンツをどのようにアーカイブし保存すべきでしょうか。
暴力を描写したコンテンツや、プラットフォームの規則に違反するその他のメディアは、各社が表明している方針に基づいて適切に削除されています。しかし、将来の戦争犯罪の訴追において証拠となる可能性を踏まえ、こうしたコンテンツをどのようにアーカイブすべきでしょうか。
調査では、Human Rights Watchに加え、Berkeley Human Rights Center、Mnemonic、WITNESSも、重大犯罪の証拠となり得るものが、時には誰にも知られないまま消失していることを明らかにしています。将来必要になった際にアクセスできるよう、主要なデジタルプラットフォーム全体で、こうしたコンテンツのアーカイブやその他の保存に関する一貫した慣行と規則を確立すべきです。
4. 透明性を確保するため、方針やその他のデジタル安全に関する決定をどのように共有すべきでしょうか。また、紛争地域や言語を越えて一貫性を確保するには、どのような説明責任の仕組みが必要でしょうか。
多くのプラットフォームがロシアの侵攻に対して正当な理由から強硬な姿勢をとっていますが、こうした決定の透明性を担保する強制力のある規則や指針は、現時点ではありません。また、多くのプラットフォームが雇用または利用するモデレーションチームの言語対応能力は、英語圏以外で有害コンテンツが拡散する問題に対処するには不十分だとの報告もあります。
言語や地域を越えて十分かつ平等なモデレーション体制が整っているかを評価するための、十分な言語対応範囲や透明性指標は、現時点で得られておらず、プラットフォームの説明責任を果たすことが難しくなっています。戦時には、この問題の重要性がさらに高まります。
今後導入される規制には、デジタルサービス法（欧州）、オンライン安全法案（英国）、オーストラリアの基本的オンライン安全期待事項などがあり、プラットフォームの説明責任や透明性、オンライン上の利用者の安全に取り組み、こうした課題の一部に対処することを目指しています。デジタル安全に関するグローバル連合などの取り組みも、体系的で一貫性があり、将来に備えた、管轄区域を越えるデジタル安全へのアプローチを議論するため、官民のリーダーを集めてきました。
ウクライナ戦争の長期的な影響はまだ明らかではありませんが、大手デジタルプラットフォームがオンライン上の利用者を守るためにとった措置の影響が、今後何年にもわたって波及することは明らかです。
