インターネット利用者、とりわけ子どもを守るため、メディア、テクノロジー企業、規制当局は協力して効果的な解決策を策定しなければなりません。
オンライン上の被害への対処は、現在ほぼ全面的にテクノロジー企業の領域となっており、その現実について規制当局に伝えられることは多くあります。
効果的な協力によってのみ、オンライン上の被害を防ぎ、インターネットを誰にとってもより安全な場所にできます。
近年、個人、政府、メディアの間で、信頼と安全性に対する見方が変化してきました。
実際、Googleトレンドが指標になるとすれば、過去10年間で、信頼と安全性の中核機能であるコンテンツモデレーションへの人々の関心は25倍に高まりました。
しかし、この分野では意見が多すぎる一方、協力があまりにも不足しています。
巨大テック企業、メディア、規制当局の三つ巴の対立
最近まで、米国の通信品位法第230条はオンライン安全の「土地の掟」でした。1990年代半ばに制定されたこの法律は、プラットフォーム上でホストされるコンテンツについて、テクノロジー企業の責任を制限していました。
それから30年以上が経ち、テクノロジー・プラットフォームは、児童性的虐待素材（CSAM）の共有、暴力の呼びかけやヘイトスピーチの拡散、社会の基盤を損なう偽情報の流布、テロ攻撃や斬首の生中継に利用されてきました。常に法的責任を負うとは限らないものの、各社は立法機関からほとんど指針を得られないまま、複雑な社会問題に対処しており、その過程で厳しい監視にさらされています。
立法と協力の不足により、テクノロジー・プラットフォーム、政府、メディアは、有害コンテンツをめぐる議論で対立する立場にあるとの見方が広がっています。プラットフォームは、言論の自由を制限していると非難される一方、オンライン上の被害の拡大で利益を得ているとも批判されています。立法者は、権限を振るいすぎている、あるいは権限の範囲を広げすぎていると受け止められる一方、メディアは議論をあおり、世間の厳しい目を促していると見られています。
しかし、オンライン安全に関する具体的な指針を示すことを目指した新たな法律が導入されています。EUのデジタルサービス法と英国のオンライン安全法案は、オンライン上の交流を安全にすることを目的としていますが、テクノロジー・プラットフォームが長年にわたり培ってきた独自の視点や専門知識は、依然として十分に考慮されていません。その結果、オンライン安全の包括的な解決策を実現する機会を逃すおそれがあります。
オンライン上の被害を防ぐ鍵は協力
協働的なアプローチは可能であり、実際に不可欠です。英国の「年齢に応じたデザイン規範」を例に挙げましょう。2021年9月に導入されたこの規範は反復的なプロセスを経て策定され、執行機関である情報コミッショナー事務局は、数十のテクノロジー・プラットフォームとの直接対話に基づき、指針や説明を発表しました。
さらに、市民団体とテクノロジー・プラットフォーム、政府機関の双方が関わる建設的な協力も見られます。Family Online Safety InstituteやNational Center for Missing and Exploited Childrenなどの団体は、子どもの安全に関する課題でテクノロジー企業と政府の仲介役を務めています。5Rights Foundationは、「年齢に応じたデザイン法」のような子どもの安全に関する規範の策定において、英国の規制当局を支援してきました。
この協働的なアプローチは、コンテンツモデレーションにも適用できます。プラットフォーム上で有害なコンテンツが検出されたら措置を講じる、という一見単純な指令を考えてみましょう。これまで任意だった措置を法律で義務づける際には、その詳細と限界を理解することが重要です。それには、テクノロジー・プラットフォームが長年にわたり蓄積してきた豊富な知見を活用できます。
有害なコンテンツとは何か
何を有害とみなすかは、どのように判断するのでしょうか。有害な画像を含むCSAMだけでしょうか。それとも、子どもへの危害を文章で描写したものも含まれるのでしょうか。偽情報はどうでしょうか。無害な嘘と、公衆衛生を損ないかねない危険な言説との境界をどこに引くのでしょうか。
倫理的な検出とは何か
通報を受けてコンテンツがモデレーターに届くのを待てば十分なのはどのような場合で、より積極的な対策が必要なのはどのような場合でしょうか。プラットフォームで共有されたリンクが利用者を有害なコンテンツに誘導する場合、そのリンクも検出すべきでしょうか。それとも、検出対象はプラットフォーム上で直接行われる違反に限るべきでしょうか。積極的な検出を難しくするプライバシーや暗号化の制約とは何でしょうか。人工知能のアルゴリズムに何を検出すべきか教えるのは誰で、料理番組に登場するナイフと襲撃に使われるナイフの文脈を、アルゴリズムはどう理解するのでしょうか。コンテンツモデレーターによる人手での検出では、安全なプラットフォームの必要性とモデレーターのウェルビーイングをどう両立させるのでしょうか。
どのような措置を講じるべきか
コンテンツを削除するのか、ラベルを付けるのか、利用者自体を排除するのかを、プラットフォームはどのように判断するのでしょうか。言論の自由と被害を受けずに済む自由との問題に、どのように対処するのでしょうか。
有害なコンテンツの文化的側面や、国境を越えたコンテンツ共有がもたらし得る法的影響も考慮すべきです。ある文化では有害なコンテンツが、別の文化ではそうでない場合もあります。また、個々のコンテンツについて、ある国で措置を講じることと別の国で何もしないことの影響を、プラットフォームは比較検討する必要があります。
執行措置には諸刃の剣の側面があります。プラットフォームは措置を講じれば批判され、講じなければ非難されます。
全体像を考慮して初めて、一部のテクノロジー・プラットフォームが長年にわたり進めてきたプロセスを義務化する立法上の決定を下すことができます。
コンテンツモデレーションの均衡
コンテンツモデレーションでは、個人の自由、複数の利害関係者のニーズ、技術的制約、目指す成果のバランスを取る必要があります。これは協力によってのみ実現できます。
政府、テクノロジー・プラットフォーム、市民団体は、協力して次のことに取り組むことができますし、そうしなければなりません。
1. オンライン空間に潜む危害を理解する。 明白な脅威だけでなく、あらゆる種類の虐待に関わる悪意ある者が、デジタル空間を利用して危害を加えています。対策を講じる前に、その動機、手法、ツールを十分に理解することが不可欠です。
2. 複雑な課題を分析する。有害なコンテンツの検出には、技術面と倫理面の双方で多くの課題があります。オンライン上のこうした被害に対してテクノロジー企業が実際に何をできるのか、また、それが利用者のプライバシーに何を意味するのかを理解することが不可欠です。
3. 新たな、より包括的な解決策を設計する。 この問題の影響は、私たちが参加するデジタル空間をはるかに超えて及びます。その点を踏まえると、こうしたオンライン上の被害への対策をテクノロジー・プラットフォームだけに委ねることはできません。
テクノロジー・プラットフォームと規制当局が、対話に開かれた姿勢、真に協力したいという意思、真のパートナーシップの意識をもってこの問題に取り組んで初めて、最適な解決策に到達し、オンライン上の被害に遭った人々を守ることができます。
