子どもにとって最も深刻な脅威の一つは、オンラインでの児童性的搾取・虐待の憂慮すべき増加です。
重要な問いは、有害なコンテンツの検出や対応の取り組みと、対立が生じた場合のプライバシー保護との間で、どのようにトレードオフのバランスを取るかです。
データは、感情的またはイデオロギー的なアプローチよりも情報に基づく意思決定を優先させることで、この緊張関係への対処に役立ちます。
今日、子どもの生活は、対面とデジタルの体験が途切れなく結びつき、互いに影響し合う相互につながったネットワークになっています。デジタル技術は、私たちが子どもの頃には ほとんど想像できなかった新しい世界を子どもたちに開いた一方で、伝統的な児童への暴力をはるかに超える脅威や危険にも子どもたちをさらしています。これには、オンラインでの嫌がらせや暴力、暴力的、性的、自傷的、ヘイトスピーチなどの有害なオンラインコンテンツへの接触、そして子どものデジタルデータの非倫理的な利用に関する懸念が含まれます。
しかし、子どもにとって最も深刻な脅威の一つは、オンラインでの児童性的搾取・虐待（CSEA）の憂慮すべき増加です。
権利を尊重するアプローチ
世界中の子どもたちが、親密な画像を共有するよう誘導され、露骨な性的行為を強要され、性的虐待の画像がオンラインで共有されています。これらはすべて、子どもの生活やより広い社会に深刻な被害をもたらします。「Disrupting Harm」は、デジタル技術に関する子どもの体験を対象とした、この種では初の大規模な多国間研究プロジェクトであり、次のことを明らかにしています：2020年に東部・南部アフリカおよび東南アジアの13か国で、12〜17歳の子どもの1〜20%がCSEAの被害を受けた。インターネットを利用する子どもの一般集団に当てはめると、これらの推計は各国で数百万人の子どもに相当します。インターネット監視財団（IWF）は、衝撃的な新しい報告書で、小学生の子どもの性的虐待画像が2019年以降1,000%増加したと述べています。
世界の指導者らによる進歩的な立法措置が最近相次いでいることは、新しいデジタル時代に既に存在し、また新たに生じている課題に対応する試みです。提案されているオンラインCSEAを防止し、これに対処するためのEU法案、EUのデジタルサービス法（DSA）、英国のオンライン安全法案、カリフォルニア州の年齢適合デザイン規範法、そして世界で初めて、オンラインで人々の安全を守ることを目的として設立された政府機関であるオーストラリアのe-セーフティ・コミッショナーは、急速に変化する世界の輪郭を形作るための取り組みです。これらは、政策措置を通じてオンラインで子どもを守るための高い基準を定め、テクノロジー業界に子どもの安全を優先するよう促しています。
世界経済フォーラムのホワイトペーパー「デジタル安全に関するグローバル原則」で示されているとおり、より安全なデジタル・エコシステムを構築するには、国際人権法の遵守を求め、安全、プライバシー、表現の自由などの人権やその他の権利のバランスを取る、権利を尊重するアプローチが必要です。
デジタル安全には、法的、政策的、倫理的、社会的、技術的な考慮事項のバランスを取る多様な検討が必要であることを認識することが不可欠です。そのような決定は、基本的人権が不可分であることを認める、既存の人権法および原則に根ざしたものでなければなりません。
より安全なデジタル・エコシステムを構築するため、規制当局はエコシステム内の他の関係者と協力する必要があり、多様なステークホルダーの協力が求められます。講じられるいかなる措置も、必要性、比例性、適法性に基づくものでなければならず、さまざまなステークホルダーの利益と懸念を包括的に理解した上で決定を下す必要があります。
実際には、プライバシーと安全は本質的に相互に関連しており、ほとんどの場合、互いに補強し合う関係にあります。多くの場合、利用者のプライバシーは安全の前提条件です。しかし、一部のプライバシー対策は、子どもの安全を複雑にする可能性があります。例えば、デジタル通信のエンドツーエンド暗号化（E2EE）をめぐる二極化した議論は、状況の複雑さや、「E2EEの対立」の両側に正当な懸念があるという事実をしばしば無視しています。E2EEの弱体化は通信の機密性とセキュリティを危険にさらす可能性がある一方で、オンラインの児童性的虐待素材を監視・削除し、加害者を特定する取り組みも著しく妨げることになります。
オンラインでの児童性的搾取・虐待に対処し、安全で年齢に適した体験を確保する取り組みを背景に、クライアントサイド・スキャンやvarious各種のデバイス上での年齢推定ツールなど、プライバシーに配慮した新しい技術が開発されてきました。しかし、これらが利用者のプライバシーに与える影響については依然として懸念があり、その点は認識される必要があります。重要な問いは、有害で違法なコンテンツの検出や対応の取り組みと、対立が生じた場合のプライバシー保護との間で、どのようにトレードオフのバランスを取るかです。
データはこの緊張関係への対処に役立ちます。データは情報に基づく意思決定を促す基本的な資産であり、感情的またはイデオロギー的なアプローチよりも優先されるべきです。
重要な新たな知見におけるデータの役割
第一に、社会のすべての層（政府や産業界を含む）が新たな脅威に共同で対応できるよう、オンライン上の子どもの体験と、それを取り巻く背景要因に関する信頼できるデータが必要です。
現在、世界各国で子どもがデジタル技術とどのように関わっているかについての理解は限られており、子どもがどのような形態のオンライン上の虐待を受けているか、誰がより脆弱か、一般的な加害者は誰か、そして子どもがオンライン上の虐待を認識し報告する方法を知っているかどうかについての証拠もほとんどありません。「Disrupting Harm」のような大規模プロジェクトは、オンラインCSEAに関する重要な新たな知見を生み出すうえでのデータと証拠の役割を示しており、この問題への対処に不可欠です。
第二に、予防と対応の面でより多くのデータが必要です。特に、国の児童保護制度と、急速に拡大する問題の規模にそれらがどのように対応しているか、そしてこれらの政策や実践がデジタル時代に適合しているかどうかについてのデータが必要です。
最後に、プライバシーと安全をめぐる二極化した立場を乗り越えるために、最先端技術を活用できるデータが必要です。例えば、児童性的虐待素材（CSAM）を特定するためにクライアントサイド・スキャン技術を導入するかどうかの決定は、次のような客観的なデータを考慮して行うことができます。i）特定・削除されたCSAMの数という点での効果、ii）加害者の起訴の可能性（それによって犯罪の再発を防ぐ）、iii）誤検知の割合、iv）技術の望ましくない利用が発生した件数。
世界経済フォーラムはサイバーセキュリティについて何をしていますか？
サイバーセキュリティセンターは、リーダーが一堂に会し、進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供しています。増大する相互接続されたデジタル世界において、理解と信頼の構築に重点を置いています。
分野横断的な協力と知見の共有を可能にすることで、同センターはパートナーがサイバーレジリエンスを強化し、共同での対応を必要とする課題に対処できるよう支援しています。
残念ながら、プライバシーと安全をめぐる議論でこれらの指標が使われることはほとんどなく、この分野の進展をさらに難しくしています。
パートナーとともに、End Violenceの「Safe Online Initiative」が この問題への対処に取り組む予定です。最近、欧州議会で開催された「Safe Digital Futures: Data for Digital Rights」イベントでは、子どもにとってのオンラインリスクと危害を分析するための体系的なデータ収集とインフラの欠如が、子どもにとって安全なインターネットを確保する上で依然として重大な障壁であることが強調されました。確かなデータと、フォーラムの「Global Coalition for Digital Safety」のようなマルチステークホルダーによる官民プラットフォームは、オンライン上の子どもの安全に関するアジェンダを推進する上で重要です。
技術の地平線に現れる次世代のイノベーションが、オンライン世界に変革をもたらす道を開く中、世界は期待を込めて見守っています。将来の課題は、単に「人間への愛を告白するチャットボット」にとどまらず、私たちが想像もしなかった形で子どもに影響を及ぼす可能性があります。新しい技術はわくわくするものですが、私たちは再び後手に回る余裕はありません。
規制当局の政策立案に加え、製品の機能、コンテンツや行動の管理、その他の分野に関する企業の判断には、特に子どもを含むすべてのステークホルダーへの影響を深く理解し、データに基づいて行うことが求められます。そしてそれを実現する唯一の方法は、開かれた姿勢での官民協力です。
