2021年には、児童性的虐待コンテンツを含む、または宣伝するURLが25万件以上見つかりました。これは2020年から64%の増加です。
オンライン上の被害に対処するため、さまざまな技術が開発されてきました。
こうした最新技術を導入することで、企業はオンライン上のユーザーの信頼と安全を優先できます。
オンライン上の被害は拡大し、悪意ある行為者は被害をもたらす手口をますます巧妙化させています。インターネット・ウォッチ財団（IWF）は、オンライン上の児童性的虐待コンテンツ（CSAM）への対策に取り組んでおり、252,194件のURLにCSAMが含まれているか、宣伝されていることを確認しました。これは2020年から64%の増加です。
テロ関連コンテンツについては、プラットフォームが悪用され、テロ攻撃のライブ配信が行われてきました。クライストチャーチの虐殺事件、ハレのシナゴーグ襲撃、そして最近ではバッファローでの銃乱射事件がその例です。また、ネットいじめも憂慮すべきほど増加しており、米国は最も高い割合を記録しています。オンライン上で人種差別を動機とするいじめについてです。
オンラインの安全性向上に向け、世界経済フォーラムはどのような取り組みを行っているのでしょうか？
同時に、オンラインで過ごす時間も増加しており、デジタル安全上のリスクにさらされる可能性が高まっています。例えば、英国の規制当局Ofcomは、13歳から24歳の人の67%がオンラインで有害となり得るコンテンツを目にした一方、報告した人は17%にとどまったと明らかにしました。こうした被害を事前に検知し、接触を防ぐ技術は、このコンテンツにさらされた人とプラットフォームに報告した人との間に大きな隔たりがあることから、重要性を増しています。デジタル安全の未来を形作る最新の技術トレンドを以下に紹介します。
1. クライアント側スキャン
クライアント側スキャン（CSS）とは、メッセージが暗号化された通信経路を通じて受信者に送信される前に、メッセージの内容（画像、テキスト、動画など）を違法または不適切なコンテンツのデータベースと照合するシステムを広く指します。例として、コンピューターがマルウェアに感染するのを防ぐウイルス対策ソフトがあります。
CSAMなどの違法コンテンツへの対策をめぐる近年の議論では、CSSが注目を集めています。エンドツーエンド暗号化（E2EE）の基盤技術を損なわずにそうしたコンテンツを見つける方法だと捉える人もいるためです。CSSには主に2つの方式があり、1つは端末上で、もう1つはリモートサーバー上で実行されます。
イアン・スティーブンソン氏、CEO、CyacombのCEOであり、オンライン安全技術産業協会（OSTIA）の会長は次のように述べています。「ここ数か月、クライアント側技術や、分割型またはマルチパーティ計算技術で何が可能かについて、非常に質の高い検討が行われてきました。この技術はシステムの暗号化部分に手を加えず、その保護機能をすべて維持します。『バックドア』はありません。むしろ、これらの技術は暗号化領域に出入りするコンテンツの境界検査として機能し、ユーザーのプライバシーを保つ方法でそれを実行します。送受信されるコンテンツが、第三者によって特定、追跡、照合されることはありません。」
しかし、Access Nowやインターネット・ソサエティなど多くの組織は、CSSへの懸念を表明しています。Access Nowは、プライバシー、安全保障、表現の自由に対するリスクを指摘する書簡を欧州委員会に送りました。一方、スティーブンソン氏や、GCHQとNCSCの長官を含むほかの専門家は、こうした懸念を共有していません。スティーブンソン氏は、既知のCSAMを照合してブロックする技術的能力はユーザーのプライバシーを非常によく保護すると述べています。また、一般的なE2EEアプリからのメタデータ漏えいのほうが、こうした新しいシステムよりもプライバシーへの脅威としてはるかに大きいと指摘しています。
特定の政府がCSS技術を使って言論の自由を抑圧したり、反体制派を特定したりする可能性への懸念について、同氏は、それだけを切り離して考えるのではなく、既存の脅威との関係で検討すべきだと述べています。「特定のコンテンツをブロックしようとする専制政府は、プライバシー保護をさほど気にかけないでしょう。したがって、現在あるさまざまなソリューションの導入を容易に義務づける可能性があります。これらの新技術の導入によって生じる追加リスクはごく小さく、社会にもたらす潜在的な利益は非常に大きいのです」と同氏は述べています。
オーストラリアのeSafetyコミッショナー、ジュリー・インマン・グラント氏は、安全、プライバシー、安全保障をデジタル上の信頼を支える3本柱として捉える必要があると主張しています。「安全とプライバシー、安全保障のバランスを取ることが重要です。これらは相反するものではなく、こうした要請の間に健全な緊張関係があれば、より良い結果につながります……しかし、プライバシーと安全を対立させたり、相容れない価値観として扱い続けたりするのは、まったく本質を見誤っています。私たちに報告された事例、特に画像を使った虐待の多くでは、プライバシーと安全は互いを強化し合うものです」と同氏は述べています。
2. 人工知能と自然言語処理（NLP）モデル
人工知能（AI）システムは、コンテンツモデレーションの速度と拡張性を高めるのに役立ちます。コンテンツモデレーションのプロセスを自動化するとともに、自然言語処理（NLP）モデルを通じてさまざまな有害コンテンツを検知できます。しかし、Bertie Vidgen氏（RewireのCEO兼共同創業者）によると、開発を進めるうえでの大きな課題の1つは、プラットフォームごとにユーザー、コンテンツの種類、メディア、危険要因、規範が異なることです。従来のソフトウェア開発で用いられてきた画一的なアプローチが通用しないため、開発者にとって大きな問題となっています。
「この2年間で、『ゼロショット』や『少数ショット』学習が可能な、非常に強力なモデルが登場しました。実際には、こうした進歩により、比較的少ないデータでもソフトウェアが非常に高い性能を発揮できます。まだ道半ばですが、これにより、従来なら必要だった莫大な費用や開発期間をかけずに、各プラットフォームに完全に合わせた拡張性の高いAIを作るという、期待の持てる新たな可能性が開かれました」とVidgen氏は述べています。
多くのソフトウェアがニュアンス、意図、文脈、冗談といった問題への対応に苦戦してきたため、オンライン安全にAIを使うことに懐疑的で、信頼を寄せていない人もいます。AIの信頼性、柔軟性、費用対効果、正確性を高め、人間による監督を通じて効果的なフィードバックループを作ることが、導入の拡大につながります。
Spectrum LabsのCEO兼共同創業者、ジャスティン・デイヴィス氏は、Spectrum Labs有害な行動をより適切に検知することで、測定や透明性を高めるツールの道が開かれ、オンラインプラットフォームはより良い方針を決定し、ユーザー体験を向上できると指摘します。「これに、健全な行動を特定し、促進する能力が加われば、信頼と安全を担うチームは、データに基づいて顧客体験や製品チームと連携し、#SafetyByDesignの原則を強化できます」とデイヴィス氏は述べています。
同氏は、今AIとNLPツールに投資することで、業界は新たな脅威を先回りして捉え、オンライン上でより健全なコミュニティの成長を促進できると考えています。
3. 画像・動画認識
画像ハッシュ化は、重複する画像を見つけられるよう、いわばデジタル指紋を作成するものです。これは、アルゴリズムを使って画像に固有のハッシュ値を割り当てる処理です。画像の複製には同じハッシュ値が付与されるため、追加の人手による確認を行わずに、既知のCSAMを検知して削除できます。
この技術が登場した当初は、画像にトリミングや色の変更などの小さな加工が施されると、編集後の画像ごとに異なるハッシュ値が生成され、技術の効果が損なわれていました。しかし2009年、マイクロソフトはダートマス大学のハニー・ファリド博士と協力し、PhotoDNAを開発しました。これはハッシュ技術に基づいていますが、画像が編集されたことを認識し、その場合も同じハッシュ値を割り当てられます。そのため、CSAMの配布をめぐり犯罪者が検知を逃れることはより困難になります。
IWFが管理するものなど、クラウドベースのハッシュリストは、CSAMのアップロードを防ぐことができます。また、ハッシュから元の画像をリバースエンジニアリングで復元することはできません。IWFの新技術では、ハッシュに文脈に関するメタデータを追加でき、世界各地の複数の法域に対応できます。
4. 年齢・本人確認：生体認証と顔分析
オンラインで特定の製品、サービス、体験にアクセスする際に本人確認が必要な場合、ユーザーを安全かつ正確に認証することは、オンライン安全の要です。広がりつつあるのが、本人確認に生体認証を用いる方法です。音声や虹彩のスキャンなどが挙げられます。AppleのFace IDは、その普及を大きく前進させました。
今後、多くの企業がメタバースにおける安全やセキュリティを考えるようになるなか、大手テクノロジー企業のプラットフォームに本人確認の仕組みを集中させるのではなく、分散化することで、ユーザーはより大きな管理権限を得られます。また、自己主権型アイデンティティ（SSI）を実現できます。ユーザーは、アクセス要件を満たすために企業と共有する固有の識別情報を選べるため、共有するデータの量や機微性を最小限に抑えられます。ボット、なりすまし、不正、虚偽表示への懸念を考えると、オンラインで安全な体験を実現するには、本人確認、少なくともアバターやIDが実在する人間によって確認済みかどうかを識別することが重要になります。
オンラインデーティングの分野では、TinderとBumbleがすでに、信頼と安全を築くためのプロフィール認証機能を追加しています。ゲームでは、ユーザーの実績やデジタル資産を検証できれば、アバターや環境全体への信頼が高まります。
また、年齢に適したコンテンツや体験を確保するうえで年齢確認は不可欠ですが、生年月日の入力など、現在広く使われている方法は簡単に回避されてしまいます。年齢確認に顔分析技術を使う方法が普及しつつあります。このソフトウェアは画像から顔を検出し、しわ、日焼けによるしみ、白髪など、ユーザーの年齢を推定するために必要な情報を分析します。これは、写真に写った人物を特定し、その情報を収集する顔認識とは異なります。Yotiは、年齢確認に顔分析を利用する企業の1つです。同社によると、AIは画素を1つずつ読み取り、年齢を示す個々の顔の特徴を分析します。同社は、このモデルによってユーザーが特定されたり認識されたりすることはないと強調しています。
Yotiのチーフ・ポリシー・アンド・レギュラトリー・オフィサー、ジュリー・ドーソン氏は次のように述べています。「年齢確認は、若者を保護し、年齢に適したオンライン体験を提供するうえで、極めて重要な役割を果たします。子どもの年齢が分かれば、『Children’s Code』や『Age Appropriate Design Codes』の要件を満たせます。年齢に適したコンテンツを提供し、子どもが露骨なコンテンツに偶然触れたり、年齢制限のある商品やサービスにアクセスしたりするのを防げます。また、オンラインコミュニティが同じ年齢層であることを確認し、過剰な通知をオフにすることもできます。」
との提携は、YuboおよびInstagramソーシャルメディアプラットフォームでユーザーの年齢をより正確に確認する需要が高まっていることを示しています。今後、インターネットが進化するなかで、ギャンブルや仮想映画館での映画鑑賞など、メタバースの新たな体験に年齢制限が必要になるため、年齢によるアクセス制限の重要性も増していくでしょう。
インマン・グラント氏は、こうした新しいアプリケーションが開発中の今こそ、セーフティ・バイ・デザインの実践と保護策を導入すべき時だと述べています。「被害が起きてから解決策を後付けしたり、既存の仕組みを改修したりするより、初めから安全対策を組み込むほうが簡単で効果的です。被害を最小限に抑え、信頼を築くことに加え、セーフティ・バイ・デザインの視点を一貫して適用することは、企業が安全基準全体を引き上げ、オーストラリアをはじめとする各国のオンライン安全規制の枠組みへの準拠を改善する助けとなります。」
次に何が起こるのか？
こうした被害に対処するための技術の進歩が、十分な速さで導入されているのかという疑問があります。オンラインの安全性を高める継続的な取り組みにおいて、これらの技術への信頼と有効性は重要な鍵となるでしょう。ジャスティン・デイヴィス氏は次のように述べています。「企業が技術の導入を進め、オンライン安全に十分な資源を配分できるよう、経営陣は信頼と安全を優先しなければなりません。経営陣の足並みをそろえる最も効果的な方法は、定量的な測定によって、信頼と安全が収益や成長に与える影響を示すことです。」
同様に、Vidgen氏は次のように指摘します。「現実には、プラットフォームが信頼と安全をコストセンターではなく、ユーザーの獲得と維持に欠かせない収益源の一部と捉え始めるまでは、予算面で大きな圧力にさらされ続けるでしょう。」その間、技術の有効性と社会からの信頼を高めながら、導入コストを下げることが、普及の鍵になります。
「安全性を高めるイノベーションは絶えず生まれていますが、真空の中で起きているわけではありません。適切な政策と規制の枠組みを整え、セキュリティやプライバシーを含む、デジタル上の信頼を確保するためのさまざまな要請の間で、適切なバランスを取る必要があります」とインマン・グラント氏は述べています。
デジタル安全のためのグローバル連合は、オンライン安全の向上に総合的に取り組むため、さまざまな原則、技術、ツール、政策枠組みを推進しようと、主要な関係者と協力しています。技術の進歩は、世界中のユーザーにとってデジタル空間を改善する進展を具体的に生み出すための重要な手段です。
