COVID-19のパンデミック中、オンライン被害の報告は大幅に増加しました。
世界中でオンラインの虐待に本格的に取り組み始めた政府はごくわずかです。
オンライン被害を防ぐための法整備や社会全体への啓発として、さらに何ができるでしょうか？
COVID-19の期間中、在宅での勤務、学習、交流が「新しい常態」となり、オンライン被害の報告が大幅に増加しました。オーストラリアのeSafety Commissionerによると、2020年には、違法なオンラインコンテンツの報告が90%増加し、親密な画像の同意のない共有に関する報告が114%増加し、オンライン上の嫌がらせやサイバーいじめの報告はそれぞれ約40%と30%に増加しました。
世界的なパンデミックによりオンライン被害の発生と報告は大幅に増えましたが、こうした問題の多くは新しいものではありません。世界初の国際調査は、オーストラリア、ニュージーランド、英国における親密な画像の同意のない共有を対象として2020年に発表されたものです。その結果、6,109人の回答者のうち3人に1人が画像に基づく性的虐待を経験しており、民族や性的指向が多様な集団では被害率が高いことがわかりました。
2019年には、ディープフェイクに関する報告書（同意のないコンピューター生成の偽動画）により、ディープフェイクの96%がポルノであり、そのポルノ系ディープフェイクの100%が女性を対象としていることがわかりました。また、調査によると、米国では成人の約4人に1人がオンライン上の嫌がらせを経験しており、2017年以降はより深刻な被害の報告も増えています。
これらの国々はオンライン被害に対応しています
20年以上にわたり、ソーシャルメディア企業は政府による規制をほとんど受けてきませんでした。世界各国がサイバー虐待、サイバーいじめ、画像に基づく性的虐待（親密な画像の同意のない共有）、そして最近ではディープフェイクの悪用といったオンライン被害に本格的に取り組み始めたのは、ごく最近のことです。
英国、米国、オーストラリアでは、政府がオンライン被害に対処するため、最近、画期的かつ世界初の法的取り組みを行っています。では、各国はどのように対応しているのでしょうか。
英国
英国では、最近オンライン安全法案が公表され、ソーシャルメディア企業に対して利用者に対する新たな法定注意義務を課すことが提案されています。この注意義務には、テロ関連コンテンツ、児童への性的搾取および虐待コンテンツ、違法コンテンツなどに利用者が遭遇するリスクの程度を評価するための「違法コンテンツリスク評価」を実施する義務などが含まれます。また、この注意義務により、ソーシャルメディア企業は「個人への被害リスクを緩和し、効果的に管理するための適切な措置」を講じることも求められます。
英国のオンライン安全法案はまた、提案しており、英国の通信規制当局であるOFCOMに、ソーシャルメディア企業を含む特定の規制対象サービスに対するオンライン安全規制権限を与え、これらの義務を果たさない場合の最高制裁金として「1,800万ポンドと、当該者の適格な全世界売上高の10%のうち、いずれか高い方」（これらの義務への不履行に対するもの）。
オーストラリア
オーストラリアでは、納税者の資金により、オンライン被害への対処を任務とするオンライン安全規制当局の運営が行われています。オーストラリアのeSafety Commissioner事務所は、親密な画像の同意のない共有に関する報告への対応を担っています。オーストラリアの親密な画像の濫用に関する制度の下で、eSafety Commissionerは、同意なく親密な画像を共有した個人に対してAUD$105,000の罰金を科す権限を持ち、コンテンツの削除に応じない企業には罰金としてAUD$525,000。
2021年には、新たなオンライン安全に関する法律がオーストラリアで成立し、「オーストラリアの成人を対象としたサイバー虐待について、苦情に基づく新たな削除通知制度を創設する」が対象とするのは、オーストラリアの成人に対するサイバー虐待です。オーストラリアのeSafety Commissionerは、ソーシャルメディア企業が「あらゆる合理的な措置」を講じ、24時間以内にサイバー虐待の素材を削除するよう確保する権限を持つことになります。これに従わない場合は民事罰の対象となります。
米国
米国では、2021年女性に対する暴力防止法再授権法は下院で可決され、上院に送付されています。提案されている連邦法案には、SHIELD Act（Stopping Harmful Image Exploitation and Limiting Distribution Act）を修正条項として盛り込むことが含まれており、同意のない個人の親密な視覚的描写を配布すること、およびその配布を意図的に脅迫することを犯罪化し、2年の禁錮と罰金を科すことを提案するものです。
これらの対応は十分でしょうか？
世界各国は、国民がオンラインで安全に過ごせるよう、また、プラットフォーム上で発生するオンライン被害についてテック企業に責任を負わせるため、法的、規制的、政策的な枠組みやインフラの制定と実施に大きな前進を遂げています。しかし、私たちはますますグローバル化し相互に結びついた世界に生きており、国際社会が直面しなければならない最も重大な制約の一つは、オンライン被害に対する世界的かつ協調的な対応の緊急の必要性です。政府、法執行機関、そして世界の産業界は、加害者に責任を負わせるだけでなく、被害者および生存者が司法へのアクセスを確保するためにも、これらの問題に取り組まなければなりません。
オンライン被害に対処するための国内法を導入することは大きな第一歩ですが、その効果は管轄権の問題によって制限されています。これらの問題が克服されない限り、オンライン被害への対処方法としては常に不十分であり続けるでしょう。この国境のない世界的な問題に取り組むには、国境のない世界的な対応が必要だからです。2021年には、各国がオンライン被害を犯罪化し、違法コンテンツを削除し、ソーシャルメディア企業に削除要請への対応を義務付けるだけでは不十分であり、加害者を国境を越えて責任追及することも求められます。各国がオンライン被害への対応を続ける中、国境を越えた責任追及と執行の問題は、克服すべき大きな障壁であり続けるでしょう。
さらに何をする必要があるでしょうか？
世界的で協調的な対応の必要性はもちろんですが、国内の立法、規制、政策上の取り組みだけでは、オンライン被害との闘いにおいて限界があります。また、学校教育や傍観者教育の取り組み、法執行機関向けの専門研修、被害者および生存者のためのトラウマに配慮したカウンセリングサービス、被害者および生存者を支援する雇用方針や慣行、被害者への補償などを通じて、社会全体で多角的にオンライン被害に取り組むことも必要です。この分野における最近の動きに基づき、国内外で実施されるべき解決策は数多くあり、誰にとってもオンラインとオフラインの双方でより安全な世界を実現することが期待されています。明るい未来が見えてきています。
データ政策に関するグローバル未来評議会は、これらの課題を検討することを目的としたマルチステークホルダー・イニシアチブを主導しており、「Pathways to Digital Justice」を、メディア、エンターテインメント、スポーツに関するグローバル未来評議会およびAIと人類に関するグローバル未来評議会と連携して進めています。詳しくは、Evîn Cheikosman（evin.cheikosman@weforum.org）までご連絡ください。
