オンライン上の有害コンテンツは急速に増加しています。
問題の隠蔽と共通の取り組み方の欠如が、前進を妨げています。
新たな取り組みが、メディア業界全体の協力促進を目指しています。
インターネットは多くの面で私たちの生活を便利にしてきました。オンラインで商品を購入し、ほぼすぐに届けてもらえます。同じ珍しい犬種が好きな人を見つけて、Instagramで数え切れないほどの写真を共有できます。面白いミームであれ速報ニュースであれ、コンテンツにリアルタイムで反応できます。
教育や娯楽、他者とのつながりのために多くの人が享受している、摩擦のない同じ体験は、危害を加えようとする人々にも利用されています。そしてインターネットは、すべての利用者に提供する速度、到達範囲、アクセス性、効率性において、利用者を区別しません。
オンラインでは、コンテンツが自由かつ大量に流通しています。毎分、500時間分の動画がYouTubeに投稿され、243,000枚の写真がFacebookにアップロードされています。残念ながら、この拡散は有害コンテンツにも及んでいます。過去1年間で、オンライン上で流通する児童搾取画像の通報件数は倍増して4,500万件に達しました。Facebookだけでも、2019年第3四半期に児童のヌードや児童の性的搾取に関するコンテンツ1,160万件が削除され、前四半期から大幅に増加しました。嫌がらせやいじめ、テロリストのプロパガンダ、スパムや詐欺を目的とする偽アカウントの利用も、多くのサイトで広がっています。
有害コンテンツの増加が、こうしたコンテンツの流通拡大によるものなのか、それとも検出や対処の執行改善によるものなのかを区別するのは困難です。いずれにしても、オンライン空間は、略奪者やその他の悪意ある行為者によって、違法かつ有害な活動を前例のない形で加速させるために利用されています。この種の活動は以前から存在していたが、オープンウェブが今になってそれを明るみに出しているだけだと主張する人も多くいます。しかし、摩擦のないユーザー体験を生み出したデジタルによる変革と、エンゲージメントの最大化を軸とする広告ベースのビジネスモデルへの移行によって、あらゆる種類のコンテンツが大規模に広がるまでの時間が短縮され、拡散も容易になりました。これほど多くの技術や知識をすぐに使えるのに、なぜ私たちはオンライン空間の「浄化」にもっと成功していないのでしょうか。
理由の一つは、問題そのものが見えにくくされてきたことです。一部のテクノロジー企業幹部は、言論の自由と検閲されたインターネットを対置し、この問題について人々が絶対主義的な立場を取るよう促しています。オンライン上の有害なコンテンツを、言論の自由を守る意思を試すものとして耐え忍ぶべきだという主張を受け入れれば、責任を負うべき人々は何もせず、従来どおりの事業を続けられます。カリフォルニア大学バークレー校の法学教授ジョン・A・パウエル氏は、こちらのニューヨーク・タイムズの記事でこう述べています。「発言者の権利を守る必要があります。しかし、それ以外のすべての人の権利はどうでしょうか。」
民間企業は合衆国憲法修正第1条に拘束されませんが、公共のデジタル空間で表現の自由を守ることが重要だという点には、今なお多くの人が同意しています。しかし、ここは議論の終着点ではなく、出発点であるべきです。この重要な対話を前進させるには、言論の自由を名目に他者の人権を侵害してはならないことも認識する必要があります。デジタル上の危害が現実世界にもたらす影響の一例として、報告書で米司法省は、性的脅迫を子どもに対する脅威の中で最も急速に深刻化しているものと特定し、FBIの調査を引用しました。それによると、性的脅迫の事例の4分の1以上が、自殺または自殺未遂につながっていました。これまでの問題の捉え方は、誤解を招く危険な二者択一を示してきました。これは言論の自由を脅かすことではなく、適切な対策によってあらゆる保護を重視し、言論の自由を名目に人々が危害にさらされないようにすることです。そうすることで、長期的には誰もが安心して、自分の声を届けられるようになります。
この問題への対処を難しくするもう一つの大きな要因は、オンライン上の有害コンテンツをめぐる共通の取り組み方や用語、トレードオフへの理解が欠けていることです。「ヘイトスピーチ」や「フェイクニュース」といった用語は、明確な違いのあるコンテンツの問題をひとくくりにしてきました。官民それぞれの責任、対処に期待される期間、そして一般市民にもたらすリスクは、コンテンツの種類によって大きく異なります。各プラットフォームには独自の分類や透明性指標があり、プラットフォームに広告を出す各消費者向けブランドにも、自社製品をどのコンテンツと並べて広告するかについて独自のリスク基準があります。メディア・エコシステム全体で用語や報告方法を統一するのは困難ですが、児童搾取や過激主義的なコンテンツのように、より合意が得られている分野を出発点にすれば、より協力的に有害コンテンツへ対処できます。
利用者の立場から見ても、この問題は複雑です。成人の圧倒的多数が、企業による自分のデータの利用方法を懸念していることを踏まえると、多くの人は、プライバシー保護と暗号化がより強化されたサービスを使いたいと考えるでしょう。しかし推計によると、CyberTiplineを通じた児童性的虐待の通報件数は、エンドツーエンド暗号化によって半減する可能性があります。プライバシーと有害コンテンツの検出とのトレードオフは、消費者に明示されていません。いずれにしても、収益の大半を広告主がもたらすプラットフォームでは、利用者には意思決定に影響を与えるだけの購買力がありません。
現在のメディアのビジネスモデルは、市場の観点から本質的に悪いものではありません。実際、すべてがうまくいけば、無料サービスを得る消費者、幅広いリーチを得るブランド広告主、収益を得るプラットフォーム、資金を得るコンテンツ制作者の誰にとっても利益があります。しかし、有害コンテンツの作成や共有を目指す人々がこのエンゲージメントを悪用すれば、社会へのリスクは市場効率の利点をはるかに上回ります。責任あるメディアのためのグローバル・アライアンスという取り組みは、メディア業界全体でこれまでにない協力を促すために設立されました。ブランドの広告費がプラットフォーム上のコンテンツ制作者にとって主要な資金源であること、そしてそれに伴い、変化を促す責任と力の両方をブランドが持つことを認識した取り組みです。
クライストチャーチでテロ攻撃の恐ろしい映像がライブ配信された事件であれ、凶悪な殺人事件の映像が10年前にオンラインへ投稿されたことであれ、有害コンテンツが社会にもたらす影響は重大です。デジタル世界と物理世界が衝突し続けるなか、私たちが作成し、目にし、共有するコンテンツに左右されるオンライン上の安全は、まさに私たち自身の安全になっていきます。
