活動家やジャーナリストは、ソーシャルメディアプラットフォーム上でますます抑圧され、沈黙させられています。
周縁化された人々によるコンテンツは、アルゴリズムやAIの偏りにより、不当かつ不均衡に削除の標的とされています。
技術設計段階で実施される3つの原則は、危害を減らし、デジタル弾圧を終わらせ、記録された不正義や人権侵害に関する検閲について、特定の主体およびプラットフォームに責任を負わせることができます。
私たちの多くは、どの国で起きているものであれ、潜在的な不正義、紛争、抑圧や暴力について十分に把握できていません。私たちは、市民活動家やジャーナリストに目と耳の役割を頼っています。
しかし、この1年間、個人、先住民コミュニティ、脆弱な人々に対する検閲が、ソーシャルメディアやその他のプラットフォームで前例のない水準に達しているのを目にしてきました。これらのプラットフォーム上の活動家やジャーナリストは、ほとんど見えなくなるほどに抑圧され、沈黙させられつつあります。
同時に、不正義の加害者は罰せられることなく横行し、クリックといいねによって報いられています。
さらに、この問題を深刻化させているのは、デジタルコミュニケーションプラットフォームが、注目を集める扇動的なコンテンツを優先しがちな、エンゲージメントの最大化を目的にプログラムされたアルゴリズムで動いているという現実です。また、プラットフォームは人工知能を利用して、コミュニティガイドライン（ヘイトスピーチなど）の利用規約に違反するものを削除し、不適切なアカウントを禁止しています。しかし、こうしたプロセスは周縁化されたコミュニティに不均衡な影響を及ぼしかねず、そうしたコミュニティのアカウントやコンテンツ、とりわけ政治的発言、紛争の記録、異議申し立ては、不当に削除の標的とされています。さらに、パンデミック以降、投稿に「いいね」、共有、コメントを行うソーシャルボットの増殖が見られ、それによりオンライン上のヘイトを生み出し、既存のヘイトスピーチや偽情報の拡散を促進し、極端な見解を持つ個人を勢いづけることで、それらを増幅させかねません。
この問題の規模を理解するには、プラットフォームが有害なコンテンツをどれだけ効果的に削除しているか、また、有害だと想定されていたものの実際には有害ではないコンテンツをどれだけ効果的に削除しているかを把握する必要があります。FacebookとInstagramは、いくつかの 情報を削除後に復元されたコンテンツに関して提供していますが、誤って削除されたコンテンツの割合は依然としてほとんど把握できていません。さらに現在、自動フラグ付けシステムがコンテンツ削除を検証するために使用する分類である「テロリズム」や「組織的ヘイト」が何を指すのかについて、共通の用語は存在しません。
Googleの2021年1月～2021年6月の透明性レポートによると、YouTubeのコミュニティガイドラインに違反したとして9,569,641本の動画が削除されました。フラグが付けられた動画のうち95%が自動フラグ付けによって削除され、そのうち27.8%は視聴回数を得る前に削除されました。Facebookの2021年1月～3月のコミュニティ基準執行レポートによると、Facebookは「危険な組織：テロリズムおよび組織的ヘイト」によって措置されたコンテンツとして判定された900万件のコンテンツおよびヘイトスピーチと判定された2,520万件のコンテンツを削除しました。Instagramは42万9,000件のテロリストコンテンツおよび630万件のヘイトスピーチコンテンツを削除しました。
これらの数字が示すジレンマは、これには 活動家やジャーナリストが共有し、テロリズムやヘイトスピーチという誤った口実で削除されたコンテンツも含まれていることです。
これらの問題が個人に具体的な身体的、感情的、政治的被害をもたらしうることを、私たちはすでに見てきました。例えば、FacebookおよびWhatsAppにおける反イスラム教徒的なヘイトスピーチや偽情報は、ミャンマーにおけるジェノサイドの一因となりました。プラットフォームのコミュニティガイドラインの曖昧さや共通の定義の欠如により、自動フラグ付けシステムの偏り、政府当局によるデジタル弾圧、真の加害者ではなく活動家への検閲が生まれる土壌ができています。
周縁化されたコミュニティ：コンテンツ削除の標的
疑いようもなく、デジタルコミュニケーションプラットフォームは社会正義の主張、特に人種的不正義に関する主張を増幅させています。中でも、上位のハッシュタグ（人種的不正義に関連してInstagramで使用されたもの）のうち、#blacklivesmatterと#endpolicebrutalityは、国家が認めた暴力や反黒人差別に対抗する啓発と行動の呼びかけに役立ってきました。ソーシャルメディア大手は反人種差別運動への連帯を表明してきましたが、そのアルゴリズムは、これらの問題への意識を高めるコンテンツを不均衡に削除してきた実績があります。AIによるフラグ付けの誤りであれ、モデレーターが扇動的な言語の膨大な量を処理しきれないことであれ、そうしたコンテンツを禁止することは、歴史的に周縁化されてきた声の封じ込めにつながります。
2020年5月のジョージ・フロイド氏の殺害を受けて、多くの黒人活動家がソーシャルメディアで検閲されたと報告しています。人種差別的な政策を明示し、歴史的不正義に光を当てたことを理由としてある研究によれば、ワシントン大学、カーネギーメロン大学、アレン人工知能研究所による研究では、アフリカ系アメリカ人英語で書かれたツイートは「ヘイトスピーチ」とマークされる可能性が2倍だったとされています。さらに最近では、2021年5月のイスラエルとパレスチナの間の暴力の激化の際、TwitterおよびFacebookは、テロリズムと誤って関連付けられた親パレスチナの投稿を数百万件、不適切にブロックまたは制限しました。
アルゴリズムの改善は進められてきたものの、プラットフォームは、オンライン上のテロと、差別の率直な実体験を伝える人々とを区別することに依然として苦慮しており、アルゴリズムはしばしば社会に存在する偏りの根底にある不平等を反映しています。
事例研究：パレスチナの活動
2021年5月のガザ空爆の際、世界中のパレスチナ人や支持者は、ソーシャルメディアを活用して重要な情報を迅速に拡散し、体験を共有し、救援を募りました。しかし、多くのアカウントが停止され、投稿が不適切としてフラグを付けられ、ライブ動画がブロックされ、コンテンツの閲覧数が通常より少なくなりました。紛争の最初の2週間で、500件を超える事例が、ソーシャルメディアに注力する非営利団体7amlehに報告されました。プラットフォームは技術的な不具合を理由としましたが、擁護団体は、アル・アクサ・モスク、エルサレムのシェイク・ジャラー地区、その他の非暴力的なテーマに関する投稿やハッシュタグが削除の標的とされた方法を精査しています。これにより、より広いソーシャルメディア環境におけるアラブ人の多くの体験は見えなくなっています。さらに、多くのパレスチナ人の不満を悪化させたのは、暴力を示唆するイスラエルの広告がYouTube上に数日間残されたのち、ようやく削除対象としてフラグが付けられたことです。
企業はこれらの問題に対処するためのタスクフォースや専任のリソースを設けてきましたが、5月の状況はより広範なパターンを反映したものでした。
事例研究：コロンビアの活動
一般に、ラテンアメリカ諸国では社会的な火種や抗議行動の時期に、暴力を記録し、人権侵害への意識を高め、街頭で起きている弾圧や虐待の証拠を示す重要なコンテンツへのオンライン検閲が強まるという問題があります。
Veridiana Alimonti、ラテンアメリカ上級政策アナリスト、Electronic Frontier Foundation
2021年4月28日以降、不平等、貧困、国家による暴力に抗議するためにコロンビアで集まった数千人の人々が、警察による取り締まりに遭っています。物理的な世界での異議申し立てを封じる試みは、オンライン世界にも及び、抗議に関するコンテンツはインターネットの妨害や削除に直面しています。
コロンビア当局は「#Colombiaesmiverdad（「コロンビアは私の真実」）」というキャンペーンを開始し、政府に批判的な声をテロリストや破壊者として位置づけました。物理的な世界だけでなく、オンラインでも同様です。これにより、Instagramのアルゴリズムが、コンテンツが不正義、犯罪、暴力を誠実に描いているかどうかにかかわらず、「テロリズム」や「ヘイトスピーチ」と見なされるコンテンツにフラグを付けて削除するよう促されました。
同じ時期に、Instagram Commonsは削除の問題を認めましたが、多くの活動家や団体は、コンテンツが依然として削除されていると報告しました。コロンビアの市民社会のデジタル権利団体であるFundación Karismaの事務局長Carolina Botero Cabrera氏によると、「検閲に関する1,000件以上の報告があり、そのうち約90%がInstagramによるもので、コンテンツは圧倒的に抗議に関するものでした」とのことです。
自動コンテンツモデレーションシステムは表現の自由に重大な脅威をもたらし、周縁化された脆弱なコミュニティ、活動家、ジャーナリストに不均衡な影響を与えています。誤り率の透明性が欠如しているにもかかわらず、自動システムは文脈を理解できず、当局や偽情報ボットによって容易に操作され得ることは明らかです。この問題が未解決のままであれば、特に危機や市民の混乱の時期に、現場で深刻な影響が続くでしょう。
3つの倫理的テクノロジー設計原則
3つのテクノロジー設計原則を導入することで、以下を実現できます：
オンラインおよびそこから生じる物理的被害を減らす
活動家やジャーナリストに対するデジタル弾圧を止める
特定の主体およびデジタルコミュニケーションプラットフォームに、記録された不正義や人権侵害に関する検閲の責任を問う
原則1：サービス提供者の責任
安全の負担を、エンドユーザーだけに負わせるべきではありません。サービス提供者は、自社のサービスが違法かつ不適切な行為を助長または奨励する可能性を低減するために、予防的措置を講じることができます。
原則2：ユーザーのエンパワーメントと自律性
ユーザーの尊厳を確保することは最も重要であり、ユーザーの最善の利益を主要な考慮事項としつつ、機能、仕組み、そして包括的な設計アプローチを通じて、サービス内の体験の一部としてユーザーのエンパワーメントと自律性を確保します。
原則3：透明性と説明責任
透明性と説明責任は、堅牢な安全対策の特徴です。これらは、サービスが公表された安全目標に従って運営されていることを保証するだけでなく、ユーザーが安全上の懸念に対処するためにとれる手段について教育し、力を与える役割も果たします。
オーストラリアのeSafety Commissioner（eSafety）によるSafety by Design（SbD）原則に基づき、これらの原則は、ユーザーがオンライン上の被害を経験した後に安全対策を後付けするのではなく、開発プロセス中にユーザーの安全を先回りして考慮することの重要性を認識し、60以上の主要ステークホルダー・グループとの広範な協議を経て策定されました。
どの社会にもデジタル上の不正義は残念ながら存在しますが、倫理的テクノロジーの開発、導入、利用に強い利害関係を持つ組織は、テクノロジーを利用した被害や虐待が継続されることを困難にする責任があります。
有害なコンテンツを単に削除するだけでは不十分です。活動家がオンラインで完全に検閲され、オフラインで疎外され、被害者や生存者が依然としてデジタル上の加害者によって引き起こされた社会的、評判上、心理的トラウマに対処しなければならないのであれば、コンテンツ削除の成功率はほとんど意味を持ちません。誤ったコンテンツ削除の誤り率の透明性が必要です。脆弱な人々、活動家、ジャーナリストに対するデジタル弾圧を止める必要があります。そして、デジタル上の不正義の加害者に責任を負わせる必要があります。
以下は、デジタル正義を提唱し、被害者、生存者、活動家を支援しているリーダー、組織、キャンペーンの網羅的ではないリストです：
世界経済フォーラムのデータ政策に関するグローバル未来評議会は、これらの問題を検討することを目的とした多様なステークホルダーによるイニシアチブ「Pathways to Digital Justice」を、メディア、エンターテインメント、スポーツに関するグローバル未来評議会および人類のためのAIに関するグローバル未来評議会と連携して進めています。詳細については、Evîn Cheikosmanまで、evin.cheikosman@weforum.orgにご連絡ください。
