生成AIは、子どもが直面するデジタル上の脅威の多様さを加速させています。
英国、オーストラリア、シンガポール、スペインを含む各国政府は、プラットフォームに対するより強い義務の導入や年齢確認をめぐる議論など、オンライン安全対策の波で対応しています。
子どもと若者は、規則、教育、保護策が、彼らがオンラインで生活し、学び、つながる実態を反映したものとなるよう、規制の設計にパートナーとして参加させる必要があります。
ゲーム、ソーシャルメディア、メッセージング、学校教育のいずれもオンラインプラットフォームを通じて行われており、すでに生活の大部分がデジタル化している子どもたちにとって、AIツールは日常の一部となりつつあります。
Pew Researchの調査によると、10代の64%がAIチャットボットを利用していると回答しており、3人に1人が毎日利用していると答えています。チャットボットに加え、子どもたちがすでに日常的に利用しているアプリやフィードにもAI機能が組み込まれており、例えば年少の子ども向けに寝る前の物語を生成するツールや、オンラインクイズの回答を表示するブラウザ拡張機能などがあります。
この普及の速さは重要です。安全対策、リテラシー、ガバナンスが追いついていないためです。子どもはまだ批判的思考、衝動の抑制、社会的アイデンティティを発達させている途中であり、不透明なシステム、説得的なデザイン、データの取り扱いを理解する能力も十分ではありません。AIは、嫌がらせ、なりすまし、搾取といった既知のオンライン被害を増幅させる一方で、リアルな合成メディアから、自動化されたグルーミング、健全な境界線を曖昧にするAIコンパニオンに至るまで、新たなリスクももたらしています。
オーストラリアが昨年末に導入した、画期的な10代向けソーシャルメディアの利用禁止措置は大きく報じられました。しかし、英国、シンガポール、スペインを含む他の政府も、プラットフォームに対するより強い義務の導入や年齢確認をめぐる議論など、オンライン安全対策の波で対応しています。このテーマは、「世界経済フォーラム 2026年次総会」でも重要な議題となり、そこではリーダーたちが超接続社会における若者のウェルビーイングについて議論しました。
『グローバルリスク報告書2026』は、技術関連リスクが深刻化していることを示しており、今後2年間でオンライン被害は第12位、今後10年間でAI技術の悪影響は第5位にランクされています。メッセージは明快です。AI時代において、子どものオンライン安全は最優先課題である、ということです。
AIがオンライン被害を加速させるとき
信頼と安全に関わるチームは、サイバーいじめや嫌がらせ、グルーミングや誘惑、児童性的虐待素材（CSAM）、憎悪や過激主義、詐欺、自傷行為や性的コンテンツへの露出など、子どもや10代の若者に影響を及ぼす既知のオンライン被害と長年闘ってきました。変わったのは、AIによって加わる速度、規模、リアリティです。
かつては専門的な技術が必要だったことも、今では広く入手可能なツールを使えば個人でも行えるようになっています。生成AIは極めてリアルな画像の作成に使われ得るため、違法コンテンツの制作や拡散のハードルを下げ、モデレーターや調査担当者が確認すべきコンテンツの量を増大させています。
この変化の規模は、すでに明らかになっています。インターネット監視財団（IWF）は、2025年に、実在する識別可能な子どもの被害者を含むことが多い、フォトリアリスティックなAI生成の児童性的虐待動画が26,362%増加したと報告し、こうした素材の多くが極めて悪質な性質を持つと警告しています。法執行機関も、拡散ネットワークに関わるAI生成CSAMへの対応を進めています。しかし、合成CSAMは、実在する被害者を特定すること、元の素材の出所を追跡すること、緊急の救出案件を優先することをより困難にし得るため、コンテンツが完全にAIで生成されたものであっても、捜査を複雑にしています。法執行機関もAI生成CSAMへの対応を進めています。しかし、合成CSAMは、実在する被害者を特定すること、元の素材の出所を追跡すること、緊急の救出案件を優先することをより困難にし得るため、コンテンツが完全にAIで生成されたものであっても、捜査を複雑にしています。
データによると、また、オンライン上の誘惑および金銭目的のセクストーションが急増していることも示されています。AIを使った「ヌード化」ツールやディープフェイクのヌード画像によって、日常的な写真が性的な画像に変えられ、特に学校内で女子を標的にした嫌がらせや屈辱が激化しています。AIにより、こうした事態は、同級生へのなりすましから露骨な画像の捏造に至るまで、より大規模に広がっています。
AIならではのリスク
AIシステムは、流暢で、迅速で、役に立つように設計されており、これらの特性は権威があるように見えることがあります。幻覚、単純化しすぎた情報、再生産された偏見のリスクがある中、子どもは会話型AIを過度に信頼してしまうことに対して脆弱になる可能性があり、共感の欠如や微妙な不正確さといった限界に気づかないことがあります。批判的思考やリテラシーを まだ身につけている途中の子どもにとって、自信に満ちているものの誤りのあるAIの出力は、学習に誤った情報を与え、信念を形成し、意思決定を歪める可能性があり、特にAIが家庭教師、検索エンジン、信頼できる友人として扱われる場合にはその傾向が強まります。
大きな変化として、明確に社交的な友人、恋愛相手、ロールプレイのキャラクター、疑似セラピーのチャットボットとしての役割を担うAIコンパニオンの台頭があります。感情的な依存は、コンパニオン型チャットボットへの依存が増大しているリスクです。AIコンパニオンは、特に年齢確認が不十分で、エンゲージメントを高めるよう最適化されたシステムの場合、若者にとって危険な組み合わせになり得ます。
事例有害なチャットボットとのやり取りが10代の若者の危機と関連づけられた事例があり、極端なケースでは自殺に至ったケースもあります。また、モデルの変更が、「友人を失ったような喪失感」を引き起こすこともあります。友人を失ったような喪失感。このことから、特に未成年者が利用する製品について、より強力な保護策、効果的な危機対応プロトコル、そしてより明確な責任の所在が必要であることがわかります。とりわけ、こうした製品が行動を形作り、強い愛着を生み出し得る場合には、その必要性は高まります。
既存の被害を加速させるだけでなく、AIは、これらのシステムがどのように設計され、体験されるかに根ざしたリスクももたらします。子どもは、やり取りが会話的で非難されないと感じられると、機微な情報をより容易に打ち明けます。ウェブ検索とは異なり、チャットは日記のようになり得て、メンタルヘルス、居場所のパターン、学校生活に関する情報など、私的な詳細を含むことがあります。このリスクは、AIがプラットフォーム全体に組み込まれるほど、また、やり取りが保存、分析、あるいはシステムの改良に利用される可能性があるほど高まります。
オンライン被害の防止
子どもと若者は、AIによって推進されるインターネットの最前線で生活していますが、彼らのことを念頭に置かずに構築されたシステムを使いこなすことを求められるケースが多すぎます。子どもを安全に守り、デジタルツールの恩恵を受けられるようにすることは、保護者、教師、信頼と安全に関わるチームだけに任せられるものではありません。
先進的な組織は、実践的な取り組みを推進しています。例えば、インターネット監視財団は児童性的虐待素材の特定と削除を支援しており、5Rights Foundationは子ども中心のデジタル設計を推進しており、Tech Coalitionは企業を結集させ、オンライン上の児童性的搾取に対する予防、検知、通報、およびプラットフォーム横断的な連携を強化しています。
大手プラットフォームや技術企業も、安全性のためのツールや、初期設定で安全な体験（画像ハッシュ化や検知技術、保護者による監督ツール、10代向けの保護機能など）への投資を進めています。一方、規制当局は、より強い注意義務のアプローチ、年齢に応じた設計、そして信頼できる年齢確認をますます求めています。AIが日常のオンライン生活に組み込まれていく中、これらの取り組みを総合すると、子どもにとってより安全なデジタルシステムの構築に向けた動きが進んでいます。
世界経済フォーラムの取り組みには、2019年の「子どもとAIのためのグローバル基準の確立」に関するワークショップ報告書が含まれており、子どもとAIのためのグローバル基準の確立、さらに2021年に発足したデジタル安全のためのグローバル連合では、国や業界をまたいだ取り組みの整合を図るため、デジタル安全に関するグローバル原則や、オンライン被害の類型といった共通の枠組みを推進しています。
フォーラムの最近の論文「介入の道筋：効果的なデジタル安全対策のためのロードマップ 」では、デジタル安全への介入をどのように実施するかについて詳細な計画が提示されています。その一環として、報告書は、リスクの特定、個別に調整された安全対策の設計、有効性の継続的な評価、専門知識や資源の共有による協働を提言しています。
フォーラムがリーダーのAI理解と責任あるイノベーションに向けた協働を支援する方法
AI卓越性センターは、AIの急速な進化とその経済や社会への影響を理解するために、各セクターのリーダーをつなぎます。AI導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援します。
信頼できる場や協働イニシアチブを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に対する責任あるアプローチに向けて共に取り組めるよう支援しています。
子どものデジタル安全は、協働を必要とする社会全体の課題です。企業、政府、市民社会、学術界はそれぞれ、AIやオンラインサービスを設計段階から安全なものにするという役割を担っており、その実現には、信頼性の高い保護策、明確な責任の所在、そして変化するリスクに対応し続けるエビデンスに基づくアプローチが求められます。同様に重要なのは、子どもと若者がパートナーとして参画し、規則、教育、保護策が、彼らがオンラインで生活し、学び、つながる実態を反映したものとなることです。
共に行動することで、AIが信頼やウェルビーイングを損なうのではなく、すべての子どもにとって学び、創造性、機会を広げるデジタル世界を構築できます。
