世界中で数十億人が利用するデジタルプラットフォームが、人々に危害を加え、危険にさらすために悪用されています。
児童搾取を含む緊急性の高い懸念分野は、現在のデジタルメディア・エコシステムの根本的な欠陥を浮き彫りにしています。
新しい 報告書は、世界経済フォーラムによるもので、これらの問題と、オンラインの安全性を向上させるためにどう対処できるかを検討しています。
パンデミックにより、仕事、教育、娯楽を含む私たちの生活の多くの側面が完全にバーチャル化し、オンラインの安全性の重要性が浮き彫りになりました。世界で47億人を超えるインターネット利用者がいる中、人々がオンライン上で作成、閲覧、共有できるコンテンツに関する決定は、世界中の人々に重大な影響を及ぼしてきましたし、現在も及ぼし続けています。世界経済フォーラムによる新しい報告書「Advancing Digital Safety: A Framework to Align Global Action」は、対処すべき根本的な問題を検討しています：
デジタルプラットフォームの安全性はどのように評価されるべきか？
オンラインの安全性を統治するうえで、民間部門と公共部門の責任は何か？
業界全体の進捗状況はどのように測定できるか？
世界の多くの地域は現在、COVID-19パンデミックからの回復の道を歩んでいますが、この危機から、オンラインおよびオフラインでより安全な社会へと脱却するうえで、依然としていくつかの大きな障壁が残っています。以下の3つの緊急性の高い危害分野を分析することで、プライバシー、表現の自由、イノベーション、収益性、責任、安全性という目標間の相互作用をより深く理解し始めることができます。
健康に関する誤情報
オンラインの安全性に対する主な課題の一つは、特にワクチンに関する健康誤情報の拡散です。調査によると、ソーシャルプラットフォーム上のワクチン反対コンテンツの大部分は、少数の影響力のある人々によって発信されていることが分かっています。このコンテンツは広範な視聴者に届いているようです。例えば、キングス・カレッジ・ロンドンの調査によると、英国では3人に1人（34%）が、国民にコロナウイルスワクチンの接種を控えさせるようなメッセージを見聞きしたと回答しています。この影響は現実世界でますます明らかになっています。
調査では、誤情報への接触がワクチン接種意向の低下と関連していることも示されています。実際、科学的に見える誤情報は、ワクチン接種意向の低下とより強く関連しています。最近の研究によると、エコノミック・アンド・ソーシャル・リサーチ・インスティテュート（ESRI）の行動研究ユニットは、COVID-19に関するニュース報道をあまりフォローしていない人ほど、ワクチンに対して躊躇する傾向が強いことを明らかにしました。これらの知見を踏まえると、誤情報への対策とワクチンに関する知識向上のために視聴者にリーチすることにおいて、メディア・エコシステムが大きな役割を担っていることは明らかです。
これは、多くのデジタルプラットフォームにとっての中核的な課題の一つを浮き彫りにしています。ワクチン反対の言説を含め、サイト上のコンテンツをどの程度までモデレーションすべきか、ということです。民間企業は自社の規約やポリシーに従ってプラットフォーム上のコンテンツをモデレートする権利を有していますが、世界規模で事業を展開するプラットフォームによる対応が、少なすぎるか多すぎるかという問題は、継続的な緊張関係にあります。
過去1年間、Facebookなどのプラットフォームは、ワクチンに関する誤情報を全面的に禁止するよう呼びかけ、そのポリシーの施行に追われており、YouTubeも同様です。例えば、Robert F Kennedy Juniorの事例は、ワクチン反対の著名な活動家であり、Instagramからは追放されたものの、FacebookとTwitterには引き続き残っていることから、この問題が続いていることを浮き彫りにしています。特に一部の批判者にとって懸念されるのは、少数民族コミュニティを標的にして、保健当局への不信感を植え付けようとしている点です。少数派や子どもを含む弱い立場にあるグループの保護は、表現の自由と安全性のバランスを検討する際に最優先されなければなりません。
児童搾取と虐待
パンデミック中、オンライン上の他の懸念すべき活動も急増しています：報告によると、ウェブ全体で児童性的搾取・虐待素材（CSEAM）の消費と流通が急増したことが示されています。オンラインで性的コンテンツに触れる子どもは3人に1人おり、これはインターネット利用時に子どもが直面する最大のリスクです。
このような活動を促進するためにプライベートメッセージング、ストリーミング、その他のデジタルチャネルが利用されていることを踏まえると、プライバシーと 安全性の間の緊張関係は、この問題を解決するために対処する必要があります。例えば、暗号化はプライバシー保護に不可欠な手段ですが、ユーザーのコンテンツを積極的にスキャン、監視、フィルタリングして違法な素材を検出することは、現在のところ暗号化と両立できません。
最近、欧州委員会のeプライバシー指令が改正され、メッセージデータのプライバシーに対する制限が厳格化された結果、EUからの児童性的虐待素材の通報は46%減少しました。これはFacebookがスキャンを停止してからわずか最初の3週間に起きたことです。この法律はその後更新されましたが、より高いプライバシーを目的として設計されたツール、法律、ポリシーが、安全性の観点から異なるユーザーグループに対して肯定的にも否定的にも影響を及ぼし得ることは明らかです。インターネット利用が拡大するにつれ、プライバシーと安全性の間に潜むこの緊張関係に対処することは、かつてないほど重要になっています。
世界経済フォーラムは、オンラインの安全性向上に向けてどのような取り組みを行っていますか？
暴力的過激主義とテロリズム
パンデミックは、社会や政治における根深い分断を露呈させ、2021年には世界中でテロ、暴力、過激主義の行為として表面化し、限界点に達しました。米国では、1月6日の米国議会議事堂襲撃事件を受けて、QAnonのようなグループがどのようにオンラインで組織化できたのかについて、より深い検証が行われ、ソーシャルプラットフォームと過激派活動との関係をより深く理解する必要性が生じました。
残念ながら、これは新しい問題ではありません。ニュージーランド王立委員会の報告書は、2019年にクライストチャーチの2つのモスクで金曜礼拝中に51人を殺害したテロリストの過激化におけるYouTubeの役割を指摘しています。この襲撃の映像は、Facebook Liveでもライブ配信されました。襲撃後の24時間以内に、同社はこの映像を含む150万本の動画を削除するために慌てて対応しました。
報告書はまた、小規模なプラットフォームの役割にも言及しており、テロリストが極端な右翼的・民族主義的な見解を推進するコンテンツに関与していたことを、4chanや8chanなどのサイトを挙げて指摘しています。この問題への対応において政府の役割を拡大すべきだとする意見がある一方で、拡大された権限が政府によって濫用されるリスクを指摘する声もあります。企業にコンテンツ削除要請への対応を義務付ける法律は、官民の共同責任をさらに複雑にしています。
ドイツのネットワーク執行法（NetzDG）のように、民間部門により迅速な対応を求める法律が制定されると、有害コンテンツの影響がしばしば即時的であるため迅速性が有益である一方で、正確性や過剰な規制（行き過ぎ）の問題が生じる可能性があります。将来の有害コンテンツに関する判断が、公共部門と民間部門のどちらによってより多く決定されるかにかかわらず、その根底にある権力の集中には、新たな法律の制定とその過程において人権が確実に守られるよう、抑制と均衡が必要です。
では、デジタル安全性への対処において、一見すると別々に見えるこれらの問題には、どのような共通点があるのでしょうか？これらはすべて、現在のデジタルメディア・エコシステムが次の3つの重要な分野で機能している方法に欠陥があることを示しています：
1. 有意義な保護のための基準の不備
プラットフォームが現在報告している指標は、主に削除されたコンテンツの絶対数に焦点を当てていますが、ユーザーの体験に基づく安全性の適切な尺度とはなっていません。コンテンツポリシーの検出や施行の改善、これらのポリシーやコンテンツカテゴリーの時間経過による変化、そして有害コンテンツ自体の実際の増加は、容易には切り分けられません。「プレバレンス」（プラットフォームのポリシーに従った有害コンテンツの閲覧数の、全閲覧数に占める割合）のような指標であっても、性別、人種、民族、その他アイデンティティに関連する要因に基づいて特定の集団がプラットフォーム上でより標的にされ（したがって、そのような有害コンテンツにより多く晒されている）という重要な差異は反映されていません。
コンテンツの受け手側（例：消費）を超えて、情報の供給側を明らかにする指標は有益となり得ます。例えば、国別の（メンバー数に基づく）上位1万グループや、インプレッション数とともに共有された上位1万URLといった指標は、有害コンテンツがどのように、どこから、誰によって最初に発生したのかを明らかにするのに役立つ可能性があります。
2. レコメンダー・システムにおける不当な影響に対する基準の不備
COVID-19は、自動化されたレコメンデーションに関する問題を浮き彫りにしました。最近のAmazonのレコメンデーション・アルゴリズムの監査では、その結果の10.47%が「誤情報を含む健康関連製品」を推奨しており、これらの製品は、こうした主張を否定する製品の結果よりも上位に表示されていたことが示されています。また、誤情報を含む製品をクリックすると、その後の検索結果も偏る傾向がありました。全体として、推奨されたコンテンツに関しては、広告の仕組みを通じてそのコンテンツが経済的に魅力的なものとされているか、またそれがどのように個人情報の利用と関係しているか、そしてユーザーの安全性に関して利益相反があるかどうかは、現時点では不明確です。
3. 民間と公共の境界を越えた苦情手続きの不備
コンテンツの削除、ユーザーの停止、その他のオンライン上の救済措置に関する決定は、論争を呼ぶことがあります。誰に尋ねるかによって、行き過ぎる場合もあれば、十分でない場合もあります。苦情がプラットフォーム内部で申し立てられた場合、特に連鎖的な影響を伴うものでは、苦情の解決にかかる時間、表明されたポリシーに照らした決定の正確性、救済へのアクセスのしやすさ、そしてユーザーが結果に同意しない場合のエスカレーションや異議申し立てといった観点から、十分な救済プロセスとは何かが問われます。現在、業界のKPIやその他の仕組みを通じた苦情手続きの効果性と効率性を測るための基準は存在しないため、その妥当性を評価することはできません。
新たな枠組みと今後の方向性
政府、市民社会、学術界、ビジネス界の50名以上の専門家と協力して、世界経済フォーラムは、ユーザー中心の枠組みを開発しました。この枠組みは、新しい報告書に概要が示されており、最低限の危害の閾値、監査可能なレコメンデーション・システム、個人情報の適切な利用、そして適切な苦情手続きを含み、デジタル製品やサービスの利用に関する安全性の基準を確立するものです。
これはユーザーの安全性に影響を与えるデジタルプラットフォーム上の意思決定のより良い統治を導くための出発点ですが、官民間のより計画的な連携が必要です。本日、新たに設立されたグローバル・デジタル安全性連合の立ち上げは、まさにこの目標を達成することを目指しています。連合の詳細と、この取り組みへの関わり方については、こちらをご覧ください。
（フォーラムはHacks/Hackersの連合への支援に感謝します。）
