デジタルプラットフォーム上での体験に信頼と安全性がいかに欠かせないものであっても、その取り組みは一部の専門家のネットワーク以外にはほとんど知られていません。
企業が被害に対処するために用いるチーム、プロセス、技術は、世間の注目を比較的ほとんど集めていません。
企業が採用している信頼と安全性の実践について、何を、どのように、なぜ行うのかを記録して共有すれば、インターネットをより安全な場所にできます。
より安全なインターネットが必要だという点では誰もが同意しますが、それが何を意味するかについて意見が一致することはほとんどありません。テクノロジー企業は、オンラインの革新や表現を抑え込むことなく、有害なコンテンツを削除したり、その拡散を抑えたりするという相反する圧力に直面しています。
ざっと見ただけでも、コンテンツモデレーションをめぐるジレンマの多くの事例から、デジタルの信頼と安全性に万能の解決策はないことがわかります。大手テクノロジー企業が現在、世界的な注目を浴びていますが、有害なコンテンツや行為の影響を受けないデジタル製品やサービスはありません。コンテンツモデレーション研究者のエブリン・ドゥークはこう述べています。「ユーザーがコンテンツを生成するなら、有害なコンテンツを生成するユーザーも出てきます。」
しかし、だからといって現状に甘んじる理由にはなりません。オンライン体験の質を高める方法はほかにもあります。リスク管理からサイバーセキュリティに至るほかの分野では、ベストプラクティスや評価が、テクノロジー業界の各分野の成熟と体系化を促し、消費者の安全性を高めるうえで重要な役割を果たしてきました。信頼と安全性についても、同じことを行う必要があります。
こうした理由から、幅広いテクノロジー企業が集まり、私が率いる組織、デジタル信頼・安全性パートナーシップ（DTSP）を設立しました。信頼と安全性に関するベストプラクティスを特定するために設立されたこのパートナーシップは、企業が多様なサービスやビジネスモデルにわたるコンテンツや行為に関連するリスクに対処できるよう支援します。
この取り組みは長い時間をかけて実現しました。多くの企業が、有害なオンラインコンテンツや行為に対処するため、信頼と安全性を担うチームを設置してきました。こうした専門家は、デジタルツールと人が主導するプロセスの両方を設計、構築、監督し、自社の製品やサービスで何を許容するかという難しい判断を下します。
デジタルプラットフォーム上での体験に信頼と安全性がいかに欠かせないものであっても、その取り組みは一部の専門家のネットワーク以外にはほとんど知られていません。企業が被害に対処するために用いるチーム、プロセス、技術は、世間の注目を比較的ほとんど集めていません。
この分野で働く人々を結びつけるDTSPやTrust & Safety Professional Associationのような組織の登場は、企業がこれまで見えにくかった事業の一部を明らかにするため、ベールを取り払い始めていることを示しています。
世界経済フォーラムのデジタル安全性に関するグローバル連合のような取り組みは、政府、市民社会、学術界、ビジネス界の専門家を集め、オンライン上の有害な活動への対処に向けた官民協力を進めるうえで、重要な仕組みとなっています。
これらの組織は連携して、デジタル安全性を統治するための官民セクター間の基本原則と責任を明確にするとともに、すべての人にとって安全で信頼できるオンライン環境を促進する新たな措置や国際基準の策定に取り組んでいます。では、デジタルの信頼と安全性を高めるには何が必要でしょうか。
1. 明日のコンテンツ危機に今日備えるため、プロセスに注力する
ISISが台頭する前、テロリストによるインターネット利用に注目していた専門家はごく少数でした。COVID-19以前の医療に関する誤情報や、2016年の米国などの選挙前の選挙干渉についても同様でした。どの企業もこうした問題に専門家を専任させられるわけではありませんが、規模を問わず、企業は新たな課題や進化する課題に対処できる堅牢なプロセスを構築できます。
そのためには、リスクを予測するプロセスを整え、対処に適したわかりやすい方針を採用し、その方針を徹底し、課題の進展に応じて調整・改善を行い、透明性を確保する必要があります。
製品が有害な目的で悪用される無数の可能性に対応できるプロセスや管理策を構築して先手を打つことは、より包摂的で、安全かつ信頼できるオンラインコミュニティの形成につながります。
2. 画一的なアプローチから脱却する
デジタル経済は多様であり、世界最大級のソーシャルメディアプラットフォームから、次世代のテクノロジー大手となる可能性を秘めた小規模なスタートアップまでを含みます。企業ごとに規模や価値観は異なり、製品やサービスに伴う安全上のリスクも深刻度や発生可能性がさまざまです。こうした違いに対応できる信頼と安全性の実践が必要です。
DTSP参加企業が自社の実践を内部で評価するなか、私たちはそのアプローチを公表しました。これは、規模やリスクプロファイルに応じて評価の程度を調整するものです。簡単に言えば、企業は適切な精査の水準を判断するために、自社の規模や人員体制に加え、ユーザー数、製品やサービスがもたらすリスクを考慮すべきです。
3. 信頼を得るには、検証する
独立性と客観性があり、測定可能な評価に代わるものはありません。企業内の信頼と安全性の実務担当者は、こうした課題に日々直面し、他者には見えない領域を把握しているため、業界が主導しなければなりません。企業だけで進めるプロセスに対して、一般市民や政策立案者が懐疑的になるのは当然です。だからこそ外部評価者が必要であり、まさにDTSPが目指しているのはその実現です。
最新のFreedom on the Net報告書によると、過去1年間に少なくとも48か国がテクノロジー企業に対する新たな規則を導入し、その半数はプラットフォームがコンテンツをどのように扱うかを対象としています。
現実には、この規制の波によって、コンテンツリスクへの対処方法は世代を超える転換を迎えるでしょう。実際のリスクには十分に対処できない一方で、人権と経済機会の双方に意図しない影響をもたらす、相互に矛盾した要件が入り乱れる可能性があります。
別の道として、業界基準のグローバルな枠組みが各国レベルの規制に情報を提供し、それらと整合する世界が考えられます。このアプローチは、政府や学術界、市民社会の専門家と緊密に協議しながら実務担当者が策定する、客観的な説明責任の仕組みによって支えられます。
サイバーセキュリティの脅威が絶えず変化するように、人間の行動に起因する有害なコンテンツや行為も変化し続けます。それでも、企業が自社で採用している実践について、何を、どのように、なぜ行うのかをより多く記録して共有すれば、消費者にとってより安全で信頼できるインターネットが実現するでしょう。
