今年、ワールド・ワイド・ウェブは開設30周年を迎えます。この間にインターネットは、学習や仕事の仕方から経済成長の促進、市場へのアクセスの拡大に至るまで、私たちの生活のあらゆる側面を変えてきました。
今年はまた、世界で最も広く批准されている条約である国連の「子どもの権利条約」の採択30周年にもあたります。この二つの節目を迎えるにあたり、この変革的な技術が子どもにどのような影響を与えているかを検証することが重要です。その恩恵は多くあります。子どもに情報、教育、娯楽へのアクセスを提供し、優れたコミュニケーションツールとしての役割も果たしています。しかし、どのような技術もそうであるように、誤用される可能性があり、子どもをリスクや害にさらすこともあります。私たちは自らに問わなければなりません。今日のデジタル世界は、子どもにとって安全な環境なのだろうか、と。
現在、世界の子どもの50%を超える人々が、毎年暴力を経験しています。2015年には、持続可能な開発目標（SDGs）が世界各国によって採択され、すべての人々にとってより良い未来への世界的な約束を示しました。SDG 16.2は、2030年までに子どもに対するあらゆる形態の暴力を終わらせることを求めています。ターゲット9.Cは、世界の子どもの大半が暮らす開発途上国において、未接続の人々に届くよう、ブロードバンドの拡大を求めています。
これら二つのターゲットを達成するためには、オンライン上の子どもの安全を優先することが緊急に必要です。子どもたちは日々、オンライン上でより多くの残虐行為にさらされており、また、接続性が子どもの権利の侵害を可能にしていることも分かってきています。デジタル世界の恩恵を子どもから奪うことなく、オンラインでの子どもの安全をより確かなものにする方法を見いだすことは、私たちの責務です。
子どもがオンラインでより安全に過ごせるよう、私たちは何をしているのでしょうか？
一部の国では、オフラインの空間の規制と似た形で、オンライン空間を管理する規制の枠組みを整備しています。英国とオーストラリアは、オンライン上で子どもを保護する取り組みで先頭を走っています。両国は、企業が従うべき「設計段階および初期設定による安全性」のコードを策定し、子どもにとって分かりやすい利用規約を作成し、デジタル空間における子どもの権利の保護を担当する特別な管理者を任命しています。
この分野の専門家たちは、各国や企業の意思決定プロセスをより安全なオンライン空間へと導くために、さまざまな取り組みやツールを開発してきました。これらの取り組みには、WePROTECTの「国家対応モデル」の枠組み、セーブ・ザ・チルドレン、ユニセフ、国連グローバル・コンパクトが策定した「子どもの権利とビジネス原則（CRBP）」、そしてITUの「子どもオンライン保護」ガイドラインなどがあり、ほんの一例にすぎません。
NetCleanのような企業は、企業環境のコンピューター上で児童性的虐待の画像や動画を検出するツールを開発しています。NGOのThornは、企業のプラットフォームに直接導入して、児童性的虐待素材（CSAM）を特定、削除、報告できるツールを開発しました。Thornはまた、児童性的虐待や搾取と闘うためのハッカソンも主催しています。別の製品であるGriffeyeは、人工知能（AI）を活用して、これまで分類されていないコンテンツを走査し、既知のCSAMコンテンツの属性と比較して、疑わしいアイテムを担当者による確認のためにフラグ付けすることで、捜査の迅速化に役立てています。
また、Microsoftは、画像のハッシュ値を作成し、既に特定され、CSAMであると確認されたハッシュ値のデータベースと照合するツールであるPhotoDNAを開発しました。Facebook、Snapchat、Twitter、Googleは、法執行機関、各国政府、NGOと緊密に連携し、オンライン上の児童虐待や搾取に対抗するためのツールやアプローチを開発しています。
私たちは十分な取り組みを行っているでしょうか？
今年初め、エコノミスト・インテリジェンス・ユニットは、Out of the Shadows Indexを立ち上げ、60か国による児童性的虐待や搾取への対応を測定しました。この新しいツールは、ICT業界による子どもへのオンライン性的暴力への対応も調査しています。このインデックスと、一部のブロードバンド委員を対象とした調査はいずれも、私たちが十分な取り組みを行えていないことを示しています。完璧な子どもオンライン保護の仕組みを備えている国は一つもありません。
インターネット上の児童性的虐待素材の量は毎年増加しており、昨年だけでも、テクノロジー企業は児童虐待を描いた写真と動画を4,500万件報告しました。私たちは、その中でどれほどの割合の画像が該当するのかさえ分かっていません。
最近の調査で、ニューヨーク・タイムズは、「多くのテクノロジー企業は、自社のプラットフォーム上の性的虐待画像を十分に取り締まれなかったか、発見した際に当局への協力が十分でなかった」と指摘しています。残念ながら、大半の国では企業に義務的な報告制度がありません。
すべての子どもにとってデジタル世界をより安全にするために、私たちには何ができるでしょうか？
新たな「子どもオンライン安全報告書」の提言に基づき、私たちには次のことが必要です。子どもオンライン安全報告書：
子どもの権利を保護する、強固で効果的かつ執行可能な法的枠組み。
子どもの安全を積極的に推進する企業文化。
子どもがオンラインおよびオフラインでの自らの権利について学ぶための教育。
子ども、親、家族、保護者、教育者、保健専門職、地域のリーダーが、デジタル世界で安全に過ごす方法を学ぶための教育。
リスクを軽減するための、年齢に適した オンライン製品およびサービス（子どもが利用するすべてのソリューションを含む）。
子どもと加害者は仮想的な存在ではなく、現実の人間であることを念頭に置く必要があります。また、法執行機関が、より多くの子どもを救出し、より多くの加害者をできる限り迅速に逮捕できるよう、技術的ソリューションと資金面で支援する必要もあります。
すべての関係者の協力のもと、オンラインでの子どもの安全を向上させるための多面的なアプローチが必要です。民間部門からのさらなる支援、投資、関与、技術的専門知識も求められています。
数百万人の子どもを不必要な苦しみから救う機会と責務が私たちにはあります。それを怠れば、社会はデジタル変革から最大の恩恵を引き出せなくなるでしょう。すべての人が自らの役割を果たしてこそ、より安全なオンライン環境が実現します。
