一部の大手テク企業は、子どもの安全への懸念を受けて、子ども向けプラットフォームの展開を延期しています。
特定の安全機能を導入することで、これらのプラットフォームが子どもの教育と娯楽のために有益に活用されるようにできます。
子どものオンライン安全について分かっていることと、その改善方法を解説します。
子どものオンライン上のリスク、そしてこれらのリスクを軽減する際の社会全体への広範な影響に関する議論が、現在中心的な課題となっています。
Appleは最近、延期しました。米国の電話機およびコンピューターにおける子ども向け安全機能の展開を延期し、InstagramもInstagram for Kidsの展開を延期しました。自社のプラットフォームが子どもに害を及ぼしているとの非難を受けて、Instagramを所有するMetaは今週、Instagram利用時に子どもに休憩を促すことや、ウェルビーイングにつながらないコンテンツから子どもを遠ざけることを含む、新たな安全管理機能を導入すると発表しました。
インターネット利用者に占める子どもの割合が大きい中、3人に1人のインターネット利用者は18歳未満の子どもです。こうした判断の影響は、子どもにとってのウェブの未来を大きく変えることになるでしょう。
子どもがオンラインで利用することには、どの程度のリスクがあるのでしょうか。
子どもがオンラインで直面するリスクは深刻であり、拡大しています。リスクは年齢、性別、オンラインでの露出、その他の要因によって異なりますが、現時点で全体として見ると、性的なコンテンツへの露出が最大のオンラインリスクとなっています。
UNICEFの調査によると、リスクは国によって大きく異なり、これらのリスクによってもたらされる被害の程度は、子どものレジリエンス、保護者による指導・支援、デジタルスキル（プライバシー設定を管理する能力など）といった多くの要因に左右されます。
若い女児にとってのリスクはさらに深刻です。State of the World’s Girls 2020報告書は、Plan Internationalによるもので、31か国の14,000人を超える少女および若い女性を対象に調査を行いました。その結果、回答者の半数以上がオンラインで嫌がらせや虐待を受けた経験があり、4人に1人がその結果として身体的な危険を感じていることが明らかになりました。
この問題に対して業界は何をしているのでしょうか。
多くの企業は、子どもをオンライン上で守るために、改善を進めています。TikTokなどの一部の動画配信アプリでは、13歳未満の利用者向けに、動画の作成は可能だが投稿はできないバージョンを提供しています。YouTubeなどの他のサービスでは、「承認済みコンテンツのみ」モードを提供しています。このモードでは、子どもは保護者が自ら選択して承認した動画、チャンネル、および／またはコレクションしか視聴できません。Instagramは、フォローされていない子どもに対して成人がメッセージを送ることを防止し、すべての子どものアカウントを初期設定で非公開にしています。
それでも、子どもがデジタルでの関わりから得られるあらゆる機会の恩恵を受けられるようにしながら、オンライン上で安全に守るためには、いくつかの課題を克服する必要があります。
オンラインでの子どもの安全に関する主要な緊張関係と障壁
年齢確認
多くの子どもは、見るべきではないコンテンツに、そもそも訪れるべきではない場所で触れてしまっています。この種の調査としては最大規模の大規模調査では、衝撃的な現実が示されています。回答者の70％が、18歳未満のときに初めて児童性的虐待素材を目にしていました。
米国では、児童オンラインプライバシー保護法を遵守するため、多くのプラットフォームが13歳未満の利用者によるサービス利用を認めていません。世界の他の多くの地域でも同様の対応がとられています。推計によると、驚くべきことに、8歳から12歳の子どもの82％が、ソーシャルメディアやメッセージングアプリにプロフィールを持っている（CyberSafeKidsの調査による）。
調査によると、人気のあるソーシャルメディアアプリの一部では、若者が登録時に年齢確認の仕組みを容易に回避できることが示されています。英国のAge-Appropriate Design Codeなど、新たな規制では、デジタル・プラットフォームが子どもをオンラインで保護するための要件が定められています。しかし、企業がどのように利用者の年齢を確認すべきかについては、規定的な内容にはなっていません。
年齢確認は重要な安全上の課題です。第三者技術の革新は、プライバシーを侵害しない解決策を提供できます。例えば、友人作りアプリのTinderは、ID確認プロセスを導入しています。これにより、マッチングした相手が実在の人物であるという利用者の信頼が高まります。技術を通じて年齢および本人確認のプロセスを改善し、それを規制基準と結びつけることは、利用者の安全にとって極めて重要です。
プライバシー
プライバシー保護の強化は、ソーシャルアプリ上で望まない接触から子どもを守ることができます。また、写真、動画、その他の共有コンテンツの公開範囲を子どもが管理する助けにもなります。ただし、一部のプライバシー対策は、子どもの安全を複雑にする場合があります。例えば、エンドツーエンド暗号化ソフトウェアは、暗号化された利用者コンテンツはスキャン、監視、フィルタリングができないため、違法素材（児童性的虐待・搾取素材（CSAM）を含む）を検出する当局の能力を低下させます。
それでも、多くの企業は暗号化された環境へと移行しつつあります。行方不明・搾取された子どものための全米センター（NCMEC）は、児童虐待通報の70％が、メッセージングプラットフォームへのエンドツーエンド暗号化の導入によって失われる可能性があると推計しています。多くの専門家が暗号化の価値を強調し続けている一方で、業界はこうした環境においてCSAMと引き続き戦うための実行可能な代替手段を見出すことに苦慮しています。
プライバシーと安全の間では、バランスを見出す必要があります。製品機能、コンテンツモデレーション、利用者プロフィール設定、その他これに類する分野に関する企業の判断には、すべての利害関係者への影響を深く理解することが求められます。これにより、均衡が取れ、効果的な対策が講じられるようになります。
リスクへの露出
一部の調査では、ソーシャルメディアの負の影響が子どもに及ぼすことが明らかになっています。これらのアプリは、特に若い女児の間で、身体イメージや自己認識に関する問題を悪化させる可能性があります。子ども向けのアプリは、こうした脆弱な層のさまざまな経験や精神的健康の実情を念頭に置くべきです。
また、ソーシャルメディアが子どもにもたらす恩恵を指摘する調査もあります。YouTubeなどのプラットフォームで子どもが動画を視聴している保護者の大多数は、それによって子どもが新しいことを学び、楽しく過ごせていると述べています。ただし、保護者はこうしたストリーミングサイトで子どもが何に触れているかに注意を払うべきです。Pew Researchの調査では、少なくとも保護者の46％が、子どもがオンラインで不適切なコンテンツに触れたことがあると答えています。
これらのアプリがもたらす恩恵には、潜在的なリスクとの取捨選択が伴います。これらのリスクと恩恵に関する継続的な議論は、その微妙な差異と、保護者がこうした判断を下す際に考慮したいと思うであろう個別の要因を浮き彫りにしています。
予防的介入
一般的に、予防的な対策は、有害なコンテンツが既に拡散した後にそれを検出して削除する対策ほどには広く支持されていません。オンラインで子どもの安全を改善するために役立つ介入策は多数考えられますが、意図しない結果を避けるためには、実社会の環境においてその効果を理解することが重要です。
39の研究の分析によると、若者の12％が同意を得ずに性的に露骨な画像や動画を転送したことがあり、8.4％は自分自身の同意のない画像を転送したことがありました。この問題には対処する必要があります。調査によると、こうしたプライバシー侵害に関する警告は逆効果となることが多く、むしろ逆の効果をもたらすことさえあります。
これらの課題に対して適切な介入を行うためには、マルチステークホルダーによるアプローチが強く求められます。政府、市民社会、研究者、保護者は協力し、すべての利害関係者からの多様な意見に基づいた堅実な介入を確実に行う必要があります。
情報の不均衡
さまざまな利害関係者の間で、技術、プロセス、課題に対する理解が異なり、かつ変化し続けているため、安全対策を評価することは必ずしも容易ではありません。Appleなどの企業が提案する変更を批判的に評価する際、利害関係者はそれを効果的に行うためのデータや理解が不足していることがよくあります。Apple。
情報を共有し、監査を可能にし、利害関係者との間で主張を独立して検証する仕組みを構築することは、支持を得るうえで極めて重要です。企業の知的財産を損なわない、プライバシーに配慮した方法でこれを行うことで、情報のギャップを埋めることができます。これは、より機敏で効果的かつ広く受け入れられる政策を策定するために必要です。
デジタル上のリスクにはどう対処すればよいのでしょうか。
前進するためには、デジタルへの関わりのリスクと機会の両方を考慮した、包括的な安全へのアプローチが必要です。これは、次の方法によってのみ実現できます。利用者中心のアプローチ。
世界経済フォーラムは、脆弱な人々、特に子どもの安全を常に考慮するサイバー規制エコシステムの構築を支援しています。私たちは、新しい技術、政策、または製品に伴う安全上の緊張関係を乗り越えること、そしてそれらが社会のすべての構成員にどのように影響しうるかを検討することの重要性を信じています。世界経済フォーラムのデジタル安全のためのグローバル連合は、そのようなトレードオフを比例的な方法で解決するための原則と実践の策定を目指しています。その解決策は、企業の規模、デジタル・エコシステムにおける役割、サービスを提供する利用者の種類、その他多くの要因に応じて調整する必要があることを踏まえています。万能の解決策は存在しませんが、子どもがインターネットの恩恵を受けながら安全を保てるような解決策を構築するための道筋は確かに存在します。
