テレグラムの創業者兼CEOの逮捕を受け、SNSプラットフォームで現在コンテンツがどのように管理されているかへの監視が強まっている。
より強力な安全対策と表現の自由への要求の両立をめぐり、「今後数年間は難しい局面が続く」と専門家は述べている。
複数の国が、関連する透明性の向上と保護の強化を図る方策に注目している。
昨年10月にハマスがイスラエルへの奇襲攻撃を開始した直後、テレグラム上でこのテロ組織が利用していたチャンネルは、に溢れかえり、その後の残虐行為の画像が満ちた。
その対応は？報じられたところによると、これらのチャンネルの制限はほとんど効果がなかった。
その約1年後、テレグラムの着実な育成「表現の自由の砦」という評判の形成は、時に極端な程度にまで至っており、パリで創業者兼CEOが逮捕されたことで躓いている。
パヴェル・ドゥロフ氏はフランスに留まるよう命じられており、同国で同氏が捜査を受けているのは犯罪行為への加担の疑い（同氏の人気プラットフォーム上でのもの）である。同氏はチャンネルに「警察から4日間事情聴取を受けた」と投稿し、「もしツールの悪用の可能性について個人として責任を問われると分かっているなら、革新者は新しいツールを作ることはないだろう」と書いた。
こうした法的監視の突然の衝撃は、一つの疑問を投げかける。これらのサービスは通常どのように管理されているのか。つまり、どのように管理されることを期待されているのか？
自動化が進む私たちの生活の他の多くの側面と同様に、人間は依然として中心的な役割を担っている。コンテンツに関して瞬時に判断を下す契約社員がスクリーンを見つめるオフィスのブースは、人工知能や機械学習に取って代わられつつあるかもしれないが、しばしば過重労働を強いられ、正当に評価されていない人々が、依然として不可欠な最後の防衛線であり続けている。
しかし、現在のやり方に対する忍耐は薄れつつあると、戦略対話研究所のCEOサーシャ・ハヴリチェク氏は指摘する。「プラットフォーム全体で、コンテンツ管理に一貫した体系的な欠陥がある」と同氏は述べた。
コンテンツ管理は、インターネット上で最も難しい問題と呼ばれてきたが、それには理由がある。
多くの点で、コンテンツ管理は、大規模な視聴者を惹きつけ、その過程で可能な限り強い反応を引き出すよう設計された事業者にとって、顧みられない最後の砦となっている。モデレーターは、即座に表現の権利をめぐる哲学者たちが考え続けてきた問題を、何世紀にもわたって判断することを任されている。
もちろん、判断が容易な場合もあれば、そうでない場合もある。
ハヴリチェク氏の言う問題の「鋭い先端」は、明らかに違法で有害な活動という形で存在し、それは「ひどいが合法」という, 取り締まることがより難しいグレーゾーンに挟まれている。それでも、世界の多くの地域、特に英語を母語としない地域では、この鋭い先端部分ですら見過ごされることが多いと、ハヴリチェク氏は述べた。
「現在、興味深い状況になっている。すなわち、ファイブ・アイズとEUが、米国を除いて基本的に規制へと動いている」と、彼女は情報収集で連携している英語圏の5か国（オーストラリア、カナダ、ニュージーランド、英国、米国）を指して述べた。
しかし、「過度に煽ることには危険がある」と、ハヴリチェク氏は警告する。ソーシャルメディアの規制の取り組みを、すでに抑圧的な検閲と同一視している表現の自由の絶対主義者たちがいるからだ。「だから、今後数年間は難しい局面が続くだろう」と同氏は述べた。すでに同一視している。
対処しやすい問題の一つは、熟練したコンテンツモデレーターの不足であるようだ。
開示EUのデジタルサービス法（ハヴリチェク氏によれば、まだ初期段階だが「ゲームチェンジャー」となる可能性がある）に準拠するため、最大手プラットフォームが行っている開示には、現地語に堪能なモデレーターの人数集計が含まれている。Xの最新の報告書では、例えば、英語に堪能なモデレーターが1,535人、スペイン語が29人、イタリア語が2人、ポーランド語が1人と記載されている。
「国ごとに20人でも、少し少なすぎる感じがする」とハヴリチェク氏は述べた。「これらは、コンテンツ管理の面で最も充実した市場であり、それ以外の地域がどのような状況かは想像に難くない。」
自動化に最適な分野か？
コンテンツモデレーターがしばしば負う心理的負担は、現在では広く理解されている。それはブロードウェイの演劇の題材にもなっており、その主人公はJOBは、Playbillによれば「インターネットから最も理解しがたいほど悪質なコンテンツの一部を排除しなければならない」、困難を抱えた女性である。
「現在この仕事に従事している人々は、必要な報酬や保護を受けられていない」とハヴリチェク氏は述べた。
モデレーターは関連する訴訟を複数の国で起こしている。衝撃的な証言がニュース報道で、少なくとも10年以上にわたり公表されてきた。ハヴリチェク氏の組織は、政府やプラットフォームと協力し、より安全で安定した将来への道筋を描いているが、独自のチームを持ち関連研究を行っている。その研究に携わる者の労働時間には厳格な規則が設けられており、カウンセリングは義務付けられている。
これらすべてを踏まえると、コンテンツ管理は自動化の最適な対象であるように思われる。しかし、皮肉の使い方の判断や、特定の政治状況に関する詳細な論評の精査など、より複雑な問題には依然として熟練した人間が必要である。
より大きな視点で見ると、ハヴリチェク氏は、問題のあるコンテンツを削除したりラベルを付けたりするだけでは不十分だと述べた。重要なのは、キュレーションシステムそのものである。つまり、利用者を引きつけ続け、広告収入を生み出すよう設計されたアルゴリズムによって、環境がいかに歪められうるかということであり、それによって人々はより「極端な空間」へと押しやられる。
これは、地政学的な駆け引きが激化し、選挙の行方が不透明になる中、もし偽情報を拡散するのに、本来存在していたであろう声を単に増幅させるだけで済むとしたら、どうなるだろうか。米国司法省が、ある企業がそうしたと主張しているように、最近の起訴状でか？
現時点で、プラットフォームは「国家主体による情報操作」の特定に多くの経験を積んでいるが、絶えず進化する手口に対応するのに苦労している、とハヴリチェク氏は述べた。
ハヴリチェク氏は、完全に整備されたEUデジタルサービス法のような措置は、非常に有益となりうると述べた。同法の重要な側面の一つは、独立した研究者がプラットフォームのデータにアクセスできるようにすることである。これは透明性を高め、リスクをより適切に評価することを目的としている。
「DSAのような仕組みが機能することを示す必要がある」と同氏は述べた。
法の下で義務を負うのは、「超大規模」と認定されたオンラインプラットフォームのみである。ハヴリチェク氏は、サービスは利用者の安全に責任を負うべきであり、「特に、社会全体に影響を及ぼすほど大規模な利用者基盤を持つに至った時点で」そうすべきだと述べた。
テレグラムはまだそこまで至っていないが、近づきつつある。
このサービスは、モデレーションがうまく機能している時には誰も気づかないのだと主張する多くのサービスの一つである。ドゥロフ氏はチャンネルに、「一部のメディアにおけるテレグラムが無秩序な楽園であるという主張は、まったくの誤りである」と書き、「私たちは毎日何百万件もの有害な投稿やチャンネルを削除している」と述べた。
最近の募集広告では、テレグラムのコンテンツモデレーターの職に対し、高い分析能力と「迅速な反応」を備えた応募者を求めている。
逮捕のおよそ5か月前、ドゥロフ氏は、モデレーション努力に対する「大規模ソーシャルメディアアプリはすべて批判の格好の標的」と考えを巡らせていた。テレグラムは、この課題に「効率性、革新性、プライバシーと表現の自由の尊重」をもって取り組むと約束していた。
逮捕を受けて、同氏は「プライバシーと安全の適切なバランスを確立することは容易ではない」と書き込んだが、同社は原則を堅持するとした。
翌日、祝賀の絵文字とともに、同氏はテレグラムの有料購読者数が1,000万人に達したと発表した。
コンテンツ管理と現在の脅威に関する追加の読み物
さらに詳しく知るために、世界経済フォーラムの戦略インテリジェンス・プラットフォームによる関連読み物へのリンクを以下に示す。世界経済フォーラムの戦略インテリジェンス・プラットフォーム：
コンテンツ管理は長期的な解決策にはならない、と長年の研究者は指摘する。地域のジャーナリズムへの投資、メディアリテラシーの向上、ファクトチェックのためのより優れたツールの提供が、いずれも必要になるだろう。（コーネル大学）
この記事によれば、政治家はテレグラムの運営方法について長年不満を述べてきた。変わったのは彼らの対応である。（Wired）
この分析によれば、民主主義国家は、より厳格な規制によって、ソーシャルメディアサービス上のコンテンツがもたらす「ハイブリッド」な脅威から積極的に自らを守らなければならない。（オーストラリア戦略政策研究所）
「クーデター以降、親軍政勢力はテレグラムの非制限的なコンテンツ管理のアプローチを利用してきた。」この分析は、人気サービスにおける自主規制の歴史の浮き沈みを詳しく掘り下げている。（カーネギー国際平和財団）
「適切な発言と不適切な発言の区別はしばしば不明瞭である。」米国最高裁判所は最近、政府がどこまでプラットフォームに対してコンテンツを抑制するよう圧力をかけられるかについて、その明確化を期待されていた訴訟を審理した。しかし、期待は裏切られた。（EFF）
「戦争に至らない手段としては、自由に流通する情報を悪用した破壊工作が最も有効な武器である。」この記事は、英国で最近起きた、ソーシャルメディアに煽られた混乱における「外国の関与者」の役割を検証している。（RUSI）
自由な政治的表現はいつ「過激化」になるのか。この分析は、フランスの現在の政治的危機を、ソーシャルメディア上で極右コンテンツのエコーチェンバーが容易に形成されることと結び付けている。（LSE）
「戦略インテリジェンス」プラットフォームでは、次に関連する専門家分析のフィードを見つけられます：偽情報、メディア、司法、そのほか数百のトピックもご覧いただけます。閲覧にはご登録が必要です。
