オンライン上の危害を食い止めるには、規制当局とテック企業による協調したグローバルな行動が必要である。
しかし協力するためには、すべての関係者が問題を説明するための共通の言語を必要としている。
このたび世界経済フォーラムの「デジタルセーフティのためのグローバル連合」は、オンライン上の危害を定義するための基礎的な言語を作成した。
オンラインで有害なものに遭遇した経験は、どれくらいあるだろうか？また、遭遇したことがある場合、インターネット企業や規制当局が他者を守るための措置を講じられるような形で、その内容を説明する方法を知っているだろうか？
オンライン上の危害に遭遇する人は、想像以上に多い。英国の規制当局であるOfcomの調査によると、成人の62%、そして12～15歳の憂慮すべき81%がインターネットユーザーは、年に少なくとも1回は有害なオンライン体験をしていた。
成人は主に詐欺、詐欺的勧誘、フェイクニュースを報告したが、若年層の4分の1以上がオンラインでのいじめや望まない友達申請を経験していた。10代の5分の2が攻撃的な言葉を目にしたと答え、約4分の1がトロール行為の被害に遭ったことがあると答えた。
オンラインの世界の本質はグローバルであることであり、そのため異なる国や文化の人々の間で誤解や意思疎通の齟齬が生じる可能性がある。必要とされているのは、何が有害なコンテンツを構成するのかについての明確な定義である。
欧州連合のデジタルサービス法（DSA）は、2024年2月に全面的に施行されるが、利用者の基本的権利が守られる、より安全なデジタル空間を創出するという同法の掲げる目的に、ある程度寄与するものである。
しかし世界全体では、合意された定義が存在しないため、複数の機関や国境をまたぐ行動を取ることが難しい。そこで世界経済フォーラムのデジタルセーフティのためのグローバル連合は、オンライン上の危害の類型を作成した。これは有害なコンテンツを6つの異なるカテゴリーに分けて定義するものである。
「DSAは、より安全なデジタル環境の形成を目指す、世界で近年制定された規制の中でも際立っている」と、連合のプロジェクトリードであるアグスティナ・カレガリは述べた。「プラットフォームに責任を負わせ、先制的な措置を促進することで、オンラインの安全性に関する基準を定めている。
「デジタルセーフティのためのグローバル連合は最近、ステークホルダーが新たな規制要件に対応する上で役立つ、デジタルセーフティのリスクを理解し評価するためのハイレベルな枠組みを立ち上げた。」
連合が定義した「共通の基礎的言語」は、「インターネットは本質的にグローバルであるが、危害は極めて地域的または文脈依存的なものとなりうる。特有のリスクは、国や地域、コミュニティごとに生じうる」ことを認めている。
「この文脈において、デジタルセーフティには、法的、政策的、倫理的、社会的、技術的な考慮事項のバランスを取る複雑な検討が必要であることを認識することが重要である…決定は国際的な人権の枠組みに根ざしたものでなければならない。」
以下は、類型の6つのカテゴリーと、それぞれに含まれる定義の概要である。
1. 個人および地域社会の安全への脅威
児童性的虐待素材
類型では、この定義は、多くの国の法律で広く使われている「児童ポルノ」という用語よりも明確であり、混乱を招きにくいとしている。
児童の性的搾取素材
実際の性的虐待を伴うか否かにかかわらず、児童を性的対象として描写するコンテンツと定義される。
テロ関連素材
テロ行為を唱道、促進、または奨励する、あるいはその実行方法を指示するコンテンツ。テロリズムを称賛することも、それによって人がテロ行為に及ぶ結果を招きうる場合には、この定義に含まれる。
過激派組織や個人を称賛、促進、美化、または支持するコンテンツ
シンボル、ロゴ、旗、スローガン、制服、敬礼、音楽の使用を含め、暴力的な過激派組織または犯罪組織への勧誘を意図したコンテンツ。
暴力的で生々しいコンテンツ
殺人、拷問、強姦、誘拐などの行為を促進、指示、または描写するコンテンツ。類型は、人権侵害を記録するものや、そのような行為を非難するものについては、この定義から除外すべきとして、この定義に条件を付している。
暴力を扇動、促進、または助長するコンテンツ
暴力や脅迫を直接的または間接的に行う脅威を含むコンテンツを含む。
危険な身体的行動を促進、扇動、または指示するコンテンツ
非専門的な状況で行われた場合、利用者または一般の人々に重大な負傷や死亡を招くおそれのある行為。
2. 健康と心身の幸福への危害
自殺、自傷行為、摂食障害を助長する素材 – 自傷、自殺を奨励または描写するもの、あるいは摂食障害や不健康な身体測定チャレンジに取り組むよう人々を奨励または指導するものすべてを含む。
発達段階に 不適切な コンテンツ – 児童がポルノや暴力的な素材にアクセスできるようにすることを含む。
3. ヘイトと差別
ヘイトスピーチ
宗教、民族、国籍、人種、肌の色、出自、性別など、個人または集団が生まれつき有する保護された属性に基づき、その人または集団を攻撃する、または軽蔑的もしくは差別的な言葉を用いるあらゆる種類のコミュニケーションや行動。
アルゴリズムによる差別
融資、住居、保険、教育、雇用機会などのサービスから利用者を排除する結果となる制限。アルゴリズムは、食料や水といった基本的な生活必需品を人々から拒否するように調整されることさえある。ただし、この定義は、年齢制限のような特定の措置は保護的措置として適切でありうることを認めている。
4. 尊厳の侵害
オンラインでのいじめと嫌がらせ
技術を用いて誰かをいじめ、社会的、感情的、心理的、さらには身体的に傷つけること。これには、虐待的なテキストやメール、傷つける内容のメッセージ、画像や動画、有害な噂の拡散、または人をだまして辱めるための偽アカウントの作成などが含まれうる。
性的脅迫
「セクストーション」とも呼ばれ、その人自身が作成した画像を利用して本人を脅迫し、素材をより広く拡散するという脅しによって、性的な便宜、金銭、その他の利益を強要すること。
5. プライバシーの侵害
ドクシング
本人の同意なく、かつ危害を受けるリスクにさらす意図をもって、個人の身元、個人情報、または機微な情報をオンライン上で意図的に暴露すること。
画像による虐待
写っている人物の同意を得ずに、親密な画像または動画を共有する、または共有すると脅すこと。
「親密な画像／動画」とは、裸体、性的なポーズ、私的な
行為を示すものだが、普段公共の場で身に着けている宗教的または文化的な服装をしていない人物を見せることも含まれうる。
6. 欺瞞と操作
偽情報と誤情報
類型は、誤情報（誤った事実を広めること）と偽情報を区別しており、偽情報とは他者を惑わせるために設計された虚偽の情報を意図的かつ故意に広めることと定義している。この定義には、ステレオタイプや女性蔑視を助長するために、女性の政治指導者、ジャーナリスト、その他の公人を特に標的とするジェンダーに基づく偽情報も含まれる。
欺瞞的な合成メディア
現実に基づいたものに見せかけるために、アルゴリズムによる処理（人工知能や機械学習など）によって生成または改変されたコンテンツ。
なりすまし
混乱させる、または欺くような方法で、既存の人物、集団、または組織を装うこと。
詐欺
金銭や個人情報へのアクセスなどの利益を得るために、人を操作し、そこにつけ込もうとする不正な計画。
フィッシング
受信者が信頼する組織や人物を装って詐欺的なメッセージを送り、オンラインバンキングのログイン情報、クレジットカードの詳細、パスワードなどの情報を盗み取ろうとすること。
カットフィッシング
ソーシャルメディアを使って偽のアイデンティティを作り出し、通常は人をだまして金銭的な被害を与える、または詐欺を働くこと。カットフィッシングを行う人は、別人を装うために偽の経歴、職業、友人をでっち上げることが多い。カットフィッシングは、金銭、贈り物、裸の画像を求める前に、人をオンラインの恋愛関係に誘い込むために使われることもある。
