生成AIの台頭や、表現の自由とコンテンツモデレーションをめぐる複雑な議論を背景に、デジタル安全は急速に変化しています。
一方、生成AIはデジタルコンテンツの制作に革新をもたらしていますが、悪用によって有害なコンテンツの作成と拡散が急速に拡大しています。
こうしたシステムを人権の原則に沿わせ、偏りをなくすことは、社会の信頼を取り戻し、維持するうえで不可欠です。
2025年を迎えるなか、生成AI（GenAI）の台頭と、表現の自由およびコンテンツモデレーションをめぐる議論の複雑化を大きな要因として、デジタル安全を取り巻く状況は急速に変化しています。
有害なコンテンツの拡散から規制上の課題、そして最近発表されたMetaによるコンテンツモデレーションの取り組み縮小、米国でのファクトチェック縮小に至るまで、デジタル安全の分野は、緊急の対応と協調行動が求められる重大な局面を迎えています。
こうした状況を踏まえ、2025年にデジタル安全を実現できるのか、問うのはもっともです。
AI時代における有害なコンテンツの拡散
生成AIはコンテンツ制作に革新をもたらし、創造性とイノベーションの新たな機会を提供しています。しかし、悪用によって有害なコンテンツの作成と拡散が急速に拡大しています。ディープフェイク、改ざんされたメディア、露骨な合成コンテンツの台頭により、現実との境界が曖昧になり、偽情報が増幅され、オンラインのエコシステムへの信頼が損なわれています。
合成コンテンツの急増は、コンテンツモデレーションの仕組みに大きな課題を突きつけています。これらの仕組みは、これまでにない量と複雑さの生成コンテンツに対処しなければなりません。信頼の侵食はデジタルプラットフォームや報道機関にとどまらず、個人間のコミュニケーションや人間関係にも影響を及ぼしています。
こうした状況が進むなか、AIアルゴリズムがどのように判断を下すのか、とりわけコンテンツモデレーションに関する透明性を、利害関係者や利用者はますます強く求めています。2025年には、表現の自由をめぐる議論に沿って、こうしたシステムを人権の原則に合致させ、偏りをなくすことが、社会の信頼を取り戻し、維持するうえで極めて重要になります。
世界経済フォーラムが最近発表した「グローバルリスク報告書2025」は、AI技術がもたらす悪影響への懸念の高まりを示しています。同報告書では、誤情報・偽情報が2年連続で1位となり、オンライン上の有害事象は14位にランクされました。
「自動化システムとオンライン安全の関係を包括的に捉えるには、AIが信頼・安全チームによるオンライン上の不正行為への対処をどのように支援するかを十分に理解する必要があります。AIがリスク要因であると同時にリスク軽減の手段でもあることへの人々の理解を深めることが、2025年にデジタルサービスへの信頼を維持するうえで極めて重要です」と、デジタル・トラスト＆セーフティ・パートナーシップのエグゼクティブ・ディレクター、デビッド・サリバン氏は述べています。
とりわけ深刻なのは、AIが生成した合成児童搾取素材の増加です。インターネット・ウォッチ・ファウンデーションは、ダークウェブのフォーラムでAI生成画像が1か月で2万点以上流通していたと報告しており、この脅威の拡大に対処する包括的な介入策が急務であることを浮き彫りにしています。こうした脅威が進化するなか、2025年には、オンライン空間を守り、脆弱な人々を保護するための革新的な解決策と世界的な連携が求められます。
言論の自由とコンテンツモデレーション
2025年初頭、デジタル安全を取り巻く状況は、コンテンツモデレーションの慣行において重大な転換点を迎えています。特にMetaは最近、米国内の各プラットフォームでコンテンツモデレーションの取り組みを撤廃し、投稿への注釈追加を利用者に委ねると発表しました。
この方針は、業界全体で見られる広範な傾向を反映しています。なかでもTwitterが導入したコミュニティノートの仕組みは、誤解を招く可能性のあるコンテンツや有害なコンテンツに対処するにあたり、中央集権的なモデレーションではなく、利用者の投稿に依存する点で同様です。
しかし、Metaがファクトチェックとコンテンツモデレーションの取り組みを縮小する決定によって、誤情報・偽情報、ヘイトスピーチ、ネットいじめなど、多様な有害コンテンツに脆弱な人々が意図せずさらされるおそれがあるとの懸念もあります。
批判する人々は、この方針が有害な言説を増幅し、デジタル環境の安全性を低下させる危険があると主張しています。これに対しMetaは、「悪い」言論への解決策はそれを遮断することではなく、対抗する「良い」言論を促し、より開かれた、自律的に規制するコミュニティの対話を育むことだと述べています。同社はまた、コンテンツモデレーションを減らすことで表現の自由が広がり、より開かれた対話が可能になると主張しています。
Metaの方針は、コンテンツモデレーションと表現の自由のバランスを取るという、より広いジレンマを浮き彫りにしています。2025年の重要課題は、表現の自由とデジタル安全の両立する妥協点を見いだし、有害コンテンツの増加によってデジタルプラットフォームへの信頼が損なわれないようにすることです。
新たなデジタル安全規制の導入
規制は今後もデジタル安全のエコシステムを形作り、法制度の変化はオンライン安全への取り組み方の転換を示しています。より積極的な規制環境へ向かう傾向がある一方で、対応には地域間・国家間で依然として隔たりがあります。例えば、米国は多くの欧州諸国よりもオンライン上の言論規制に慎重です。
欧州連合（EU）のデジタルサービス法（DSA）と英国のオンライン安全法（OSA）は、コンテンツモデレーション、プラットフォームの説明責任、児童保護に関する重要な基準を定めました。しかし、各法の実施状況は法域によって異なり、規制対応を調和させることの複雑さが浮き彫りになっています。
英国のオンラインプラットフォームは、まもなくOSAに基づく新たな義務を負います。Ofcom（英国情報通信庁）は、2025年4月までに「児童保護実施規範」と、更新版のリスク評価ガイダンスを公表する予定です。これにより、特に子どもを含む利用者の保護に関するプラットフォームの責任が、さらに明確になります。
オーストラリアも、16歳未満の子どもを対象に、特定のソーシャルメディアサービスへの年齢制限を導入するという大胆な措置を講じ、デジタル空間で子どもの安全を優先する世界的な動きを示しました。この措置の実施にあたり、オーストラリアのeSafetyコミッショナーは、政府、産業界、若者、そしてより広いコミュニティと連携します。
英国やスペインなども同様の政策を検討しており、オンラインで若者を保護するという国際的な取り組みを強めています。
こうした規制の枠組みが進化するなか、2025年はデジタル安全を強化する世界的な取り組みにとって重要な年となります。グローバル・オンライン安全規制当局ネットワークは2024年10月に発足し、地域間の安全基準を比較・評価する有用なツール「オンライン安全規制指数」を公開しました。この指数は、複雑な規制環境を理解する助けとなります。
「2025年に新たなソーシャルメディア年齢制限法を効果的に実施し、執行するeSafetyの計画は、プラットフォームやサービスがより効果的にセーフティ・バイ・デザインを導入できるようにする既存の包括的な戦略を補完する取り組みの一つです。同時に、オーストラリア全土で安全確保の慣行とプロセスを向上させます」と、オーストラリアのeSafetyコミッショナー、ジュリー・インマン・グラント氏は述べています。
「子どもの性的虐待素材やテロを助長するコンテンツなど、最も有害なオンラインコンテンツへの対処を世界の巨大テクノロジー企業に求める、世界初の業界基準も、オンラインで子どもを守るための多面的な取り組みをつなぐ重要な要素です。この取り組みには、子どもへのデジタルリテラシー教育の継続と、保護者への支援も含まれます。
「同様に、私たちの規範と透明性に関する権限は、ソーシャルメディアの年齢制限を支え、子どもや若者を保護する包括的な仕組みを提供できます。」
デジタル安全のための介入策
デジタル安全の課題の規模は憂慮すべきものですが、企業、市民社会組織、その他の利害関係者は、こうした被害に対処するため、多様な介入策や解決策を実施しています。
人工知能や機械学習の活用など、技術的な介入策も、有害なコンテンツの検出と軽減に欠かせません。しかし、効果的な戦略はテクノロジーだけにとどまってはなりません。
より安全なデジタル環境を作るには、包括的な政策の改善、望ましいオンライン行動の促進、利用者への教育が必要です。この問題が複雑なのは、デジタル安全の課題が技術面だけのものではなく、文化的、社会的、制度的な力学と深く結びついているためです。
今後の課題に対応するには、利用者が意見を表明できるオンラインプラットフォームを作るうえで、デジタルリスクと安全な実践に関する知識を利用者に身につけてもらうことも同様に重要です。デジタルリテラシーを高める啓発キャンペーンは不可欠です。これにより、人々が責任を持ってオンライン空間を利用できるようになり、より安全で包摂的なデジタルエコシステムの実現につながります。
こうした取り組みの効果を最大限に高めるには、表現の自由と安全性をめぐる議論を踏まえ、介入戦略とリスク軽減策を継続的に評価し、効果のあるものとないものを見極めることが重要です。この継続的な分析は、取り組み方を改善し、デジタル安全の施策の効果を持続させるために不可欠です。
デジタル安全を脅かす将来の被害
デジタル安全の分野では、新たな優先課題を予測できないと、重大な結果や被害が生じてから初めて対応を始める、後手に回った取り組みになりがちです。潜在的な脅威が深刻化する前に対処する予防策を講じることが、被害を軽減し、レジリエンスを確保するうえで極めて重要です。
WeProtect AllianceとThornによる調査は、定期的な将来動向の探索の価値を示しています。この手法により、テクノロジーを介した児童の性的搾取を取り巻く状況を変える可能性のある、現在および新興のテクノロジーを迅速に評価できます。テクノロジーと利用者の行動が急速に変化するなか、こうした先を見据えた取り組みを、あらゆるオンライン上の被害を対象とする児童保護の標準的な実践にする必要があります。
2025年にはパラダイムシフトが不可欠であり、開発者と政策立案者は緊密に協力し、テクノロジー開発に被害防止を組み込まなければなりません。この転換には安全とイノベーションの両立が必要です。進歩を妨げることなく、利用者とその声を守る解決策を育むことが求められます。予防的な戦略を優先すれば、将来のリスクを効果的に予測し、軽減するデジタル環境を構築できます。
世界的な協力とガバナンス
デジタル安全の課題が相互につながっていることから、世界が一体となった対応が求められます。これらの問題に効果的に取り組むには、政府、民間企業、市民社会組織の強固な連携が必要です。こうした協調的な取り組みは、イノベーションを促進し、ベストプラクティスを共有し、意義ある進展をもたらすうえで不可欠です。
政府間の取り組みでは、国連グローバル・デジタル・コンパクトが、デジタル安全の強化を強く求めながら、デジタル世界に関する国際基準を定めようとしています。2025年に実施が進むなか、国境を越える安全上の課題に対処し、共通の目標に向けて世界の取り組みを調整できるかどうかが注視されます。
マルチステークホルダーの観点からは、世界経済フォーラムが招集するデジタル安全のためのグローバル連合が重要な役割を果たします。この連合は、利害関係者がベストプラクティスについて協力し、知見を交換し、セーフティ・バイ・デザインの原則を推進するための場を提供します。
世界経済フォーラムは、リーダーたちが最先端技術を現実世界の課題に結びつけるため、どのように支援しているのか
フロンティア技術・イノベーションセンターは、科学者、政策立案者、企業のリーダーを結びつけ、新興技術とその現実世界への影響を理解するための取り組みを進めています。
協力と実験を可能にすることで、同センターはパートナーが研究から生まれたイノベーションを実用的な応用へとつなぎ、共通の世界的課題に取り組むのを支援します。
今年後半、連合はデジタル安全の介入策を整理した報告書を公表し、偽情報のライフサイクル全体に対処する包括的な枠組みを提示する予定です。
民間部門では、コンテンツ来歴・真正性連合（C2PA）が、誤情報対策に向けた重要な取り組みを進めています。メディアコンテンツの出所と履歴を検証する技術基準を確立することで、C2PAはデジタル空間における信頼と説明責任の向上を目指しています。
「より安全なデジタル世界の実現には、規制と技術の革新だけでなく、倫理的な実践を優先し、将来のリスクを予測する文化への転換も必要です。力を合わせれば、デジタル安全を取り巻く状況を変え、複雑化し進化する課題のただ中でも、利用者に力を与え、利用者を守ることができます」と、世界経済フォーラムのガバナンス・トラスト部門長、ダニエル・ドブリゴフスキ氏は述べています。
ますます複雑化するオンライン環境でデジタル安全を実現するには、言論の自由と利用者の保護のバランスを取る必要があります。世界的な連携、透明性のある規制、技術革新、人権と倫理原則への取り組みを通じて、2025年には大きな進展を遂げることができます。
