インターネットを利用する子どもの過半数が、何らかのオンライン上の性的被害を経験しています。
子どものオンライン安全対策の大半は、「中流段階」におけるユーザー体験の保護に重点を置いています。
「下流段階」で生じる影響も含めた、より包括的なアプローチが必要です。
インターネット利用者の3人に1人が18歳未満であるなか、子どものオンライン上の性的虐待は、被害者を生み出す世界的な公共安全上の問題となっています。WeProtect Global Allianceは推計しており、子どもの頃に日常的にインターネットを利用していた人（現在18～20歳）の実に54％が、少なくとも一度はオンライン上の性的被害に遭ったとしています。子どもの性的搾取や虐待には今なお偏見がつきまとうため、私たちが把握しているのは氷山の一角にすぎない可能性が高く、統計でも問題の広がりを過小評価していると考えられます。
極めて憂慮すべきことですが、性的搾取や虐待は、オンラインで若者に影響を及ぼす違法または有害なコンテンツや行為の一形態にすぎません。ネットいじめ、なりすまし、荒らし、嫌がらせ、ヘイトスピーチへの接触、自傷行為の助長、個人情報の窃取、子どもを標的とするフィッシングも増加しています。その結果は、戒めとなる事例から胸が痛む悲劇までさまざまです。たとえばイタリアでは、危険なチャレンジに挑戦した10歳の子どもが死亡したことを受け、年齢を確認できないユーザーをTikTokからブロックするよう命じました。また、性別を問わず若者が、ソーシャルメディアによって助長されうる摂食障害の傾向に影響されやすいことも、私たちはようやく認識し始めています。
ウェブを子どもに安全な場にする
安全性とオンライン上の危険の広がりが、政府、テクノロジー業界、法執行機関、市民社会にとって、世界の舞台でこれほど明白に注目の中心となったことはありません。世界各地で若者や家族に降りかかる悲劇から、同様の事態を防ぐため複数の地域で制定された、あるいは制定が見込まれる新たな法律や規制まで、オンラインの安全は転換点を迎えています。テクノロジー企業全体が、あらゆる部門や利害関係者から安全性への期待が高まる時代にあります。
オーストラリアは、世界初の「eSafety」政府機関を設立しました。英国（オンライン安全法案）とEU（デジタルサービス法およびデジタル市場法）はすでに大規模な法改正を提案しており、米国では子どものオンライン上の安全とプライバシーをさらに守るための複数の提案について、超党派の機運が高まっています。米国では、未成年者をオンラインで保護する規制がすでに施行されています。児童オンライン・プライバシー保護法（COPPA）は、実際には数十年前にビル・クリントン大統領が署名して成立しましたが、現在では広く不十分と見なされています。フランスは最近、未成年者がポルノコンテンツに接触するのを防ぐためのプロトコルを採択しました。英国は「年齢に応じたデザイン規範」を導入しており、世界各地の多くの地域がその少なくとも一部を取り入れようとしています。ドイツの立法者は同国の年齢に応じたデザイン規範に倣う動きを見せています。ドイツの立法者は同国の青少年保護法を大幅に改正しました。こうした法律や提案の多くでは、協力しないプラットフォームに数百万ユーロに上る罰金が科されるリスクがあり、経営幹部が禁錮刑に処される可能性さえあります。
「設計段階からの安全性」など、いくつかの規制措置や原則によって、設計段階から安全性を組み込むことがすでに促され、Snapchat、YouTube、TikTokなどの大手企業は若者に配慮した制御機能を導入しました。これにInstagramやAppleも続いています。こうした取り組みは称賛に値しますが、たとえば登録時に実際より早い生年月日を入力するなどして、子どもが安全対策を簡単に回避できてしまう場合もあります。
機械学習やAIによる検知は、必要な人間によるモデレーションとあわせて、オンライン上の有害なコンテンツや活動から若者を守るうえで欠かせません。それでも、こうしたツールがすぐに成果をもたらすという期待に浮かれるのは、おそらく的外れです。たとえばコンテンツのアップロード時のフィルタリングや自動コンテンツ検知は、表現の自由への脅威など、深刻な倫理的課題に直面しています。メタバースも、間違いなく新たな安全上の課題を生み出すでしょう。
今こそより賢明なアプローチを設計する時です。その中心には、未成年ユーザーのオンラインでの体験全体を据える必要があります。これまで規制当局やテクノロジー業界は、若者のオンライン体験の「中流段階」、すなわちコンテンツのアップロード、アクセス、検知に主に焦点を当ててきました。しかし、子どもにとってより安全な環境をつくる鍵は、さらに下流にもあるかもしれません。子どもがオンラインで有害なコンテンツに遭遇した後、何が起きるのでしょうか。
最初から最後まで切れ目のない安全対策
一つのアプローチは、子どものユーザー安全を最初から最後まで支えるプロセスです。被害に遭った子どもや危険にさらされている子どもを助けるだけでなく、オンライン上の有害な行為を未然に抑止することにもつながります。そのためには、オンライン上の被害に遭った若者を支援することが、テクノロジープラットフォーム、親、養育者、政府、法執行機関、教育関係者、市民社会、そして十代の若者や若者自身を含む、さまざまな関係者の共通の責任であると認識しなければなりません。あらゆる部門がそれぞれの役割を果たし、協力と連携を通じて力を合わせれば、インターネットをより安全な環境へと発展させることができます。
まず、子どもたちが受けたネットいじめや有害なコンテンツを報告し、申し立てるためのツールやリソースを提供する必要があります。その際、プライバシーを守り、適切な支援を受けられるようにすることが大切です。若者は、自分の国にある相談窓口や支援窓口を知り、連絡方法を把握しておくべきです。そうした窓口は、プラットフォームやサービスから規約違反のコンテンツを削除するよう本人に代わって働きかけ、ほかのリソースも提供できます。たとえば、米国の全米行方不明・被搾取児童センター、英国のインターネット・ウォッチ財団、イタリアのテレフォノ・アッズーロがあります。フランスでは、3018がオンライン上の暴力やネットいじめに対応する全国共通番号で、NGOのe-Enfanceが運営しています。e-Enfanceは最近、子どもや被害者が通報しやすくすることを目的に、専用の信頼・安全プラットフォームを基盤とする革新的な電話アプリを立ち上げました。WeProtectやINHOPEのような国際NGOは、こうしたサービスを各国で利用できるよう後押しできます。
次に、年少のユーザーは、家族、親、養育者、保護者、友人、教育関係者からの支援を受けることが多い点を忘れてはなりません。幸い、未成年者のオンライン活動を支えるための資料は豊富にあります。印刷物やオンライン資料には、塗り絵からオンライン授業計画、eラーニング教材まで、さまざまなものがあります。コンテンツのフィルタリングや、プライバシーに配慮したリアルタイム監視ツールなどのソフトウェアは、家庭でも利用できます。たとえばSafeToNetがあります。学校や教員は、CyberSafeKidsのようなツールを検討できます。しかし、それだけでは十分ではありません。若者がオンライン上のリスクと機会を効果的に評価できるよう、批判的思考力や分析力を養う教育にも投資することが不可欠です。
第三に、法執行機関の役割も重要です。カナダではNeedHelpNowとCyberTipの各サービスがすでに運用されており、英国も取り組みを開始しています。いずれも、子どもや若者が文字どおりオンラインで成長していくなかで、その安全を守る助けとなります。
最後に、オンライン上の被害はオンラインだけで対処できるものではありません。現実の人とのつながりは、被害を受けた人の大きな支えになります。たとえばNCMECの「チーム・ホープ」は、行方不明になった、あるいは性的搾取を受けた子どもを持つ、またはその子どもだった経験からトラウマを抱えるボランティアと被害者をつなぎ、力になることができます。
世界経済フォーラムは、子どものデジタル・インテリジェンス向上に向けてどのような取り組みを行っているのでしょうか。
すでに利用可能なアプローチを統合し、子どものユーザー安全を最初から最後まで支えるプロセスに結びつけることには、大きな可能性があります。企業、政府、市民社会の協働により、オンライン上の被害を軽減し、影響を受けた人々を支え、ユーザーの関与を促し、健全で安全かつ公平な未来を担う世代を守り育てるという共通の使命のもと、私たち全員を結びつけることができます。
