プラットフォームがコンテンツについてどのような責任を負うべきかをめぐる議論は、正反対の二つの立場に分かれている。一方は、詐欺、嫌がらせ、暴力の扇動、過激化、政治的操作という現実に存在する深刻な問題に対処するには、サービス上に掲載されるコンテンツについてプラットフォームに厳格な責任を負わせるしかないと主張する。もう一方は、プラットフォームを警察役に任命すれば、説明責任を負わない強大な門番の集団が生まれ、市民参加や民主化運動にソーシャルメディアが力を与えてきたまさにその特性が失われると主張する。
双方の主張には、それぞれ根拠があり、多くの事例もある。プラットフォーム責任を支持する側は、ロシアによる選挙への介入、「フェイクニュース」の爆発的な広がり、そしてロヒンギャ虐殺の加害者によるFacebookの利用を挙げる。プラットフォーム責任に反対する側は、「アラブの春」やBlack Lives Matter運動など、大衆による民主化運動でソーシャルメディアが果たした重要な役割を指摘する。また、過度に広範で設計の不十分なアルゴリズムが、正当な（時には必要な）論争的言論まで対象にすることで生じる「誤検知」の被害や、有害なコンテンツを削除しようとすることの効果のなさも挙げている。
ソーシャルメディアが私たちに極端な考え方を身につけさせてきたことを象徴しているのかもしれないが、議論されている選択肢は、（一般に「通報を受けて削除する」規定を伴う）厳格責任制度か、全面的な規制撤廃と第三者コンテンツに対する一切の免責を求める完全な不介入かの二つだけだ。
現在の仲介者による取り組みの問題点
均衡の取れた効果的なアプローチを作るうえでの問題の一つは、実データが不足していることだ。プラットフォームは（自主的に、あるいは法律で義務づけられて）「透明性レポート」を公表することがあるが、そこで扱われるのはもっぱら定量的な指標であり、講じた措置の有効性や影響についてはほとんど分からない。
例えば、ドイツのネットワーク執行法（NetzDG）に基づいて最近公表された初の透明性レポートには、報告対象となったプラットフォームが受けた苦情の件数と、そのうち削除に至った件数が表で示されている。これは、ある専門家が指摘するようにプラットフォームが過剰に広範な対応をしていないことを示す可能性もあれば、このレポートを他のデータと組み合わせれば、国境なき記者団が主張するように合法的なコンテンツがブロックされたことを示す可能性もある。しかし、影響については何も分からない。
これらのレポートは、質的指標よりも量的指標を優先することで、そもそも問うべきでない問いに焦点を当てている。問うべきなのは、より積極的なコンテンツモデレーションが、私たちが解決しようとしている現実の社会問題に対処できるのか、できるとすればどのような代償を伴うのか、ということだ。
既存の証拠によれば、プラットフォームはコンテンツのモデレーションがあまり得意ではない。例えば、著作権を侵害する第三者のコンテンツについてプラットフォームに責任を義務づけると、多数の誤検知が生じ、コンテンツの削除につながる一方で、オンライン上の侵害全体にはほとんど影響しないようだと、私たちは何年も前から知っている。最も成功した著作権コンテンツのモデレーションシステムであるGoogleのContent IDの開発と維持には、Googleは6,000万ドルを超える費用をかけたが、誰も満足させられなかった。
第三者のコンテンツが他者の著作権を侵害しているかどうかを判断することは、プラットフォームが国際的にコンテンツをモデレーションする際、最も容易な事例だ。著作権法は世界各地で、完全ではないものの、かなり一貫している。作品同士を比較し、一致するかどうかを判断するものだ。例外や制限、侵害基準の適用に関する各国間の比較的小さな違いでさえ、Content IDのような高価で高度なシステムを混乱させるのであれば、プラットフォームやアルゴリズムが、はるかに難しく、繊細なコンテンツモデレーションの問題であるヘイトスピーチ、暴力の扇動、わいせつなコンテンツに対処できると期待するのは無理がある。
逸話的な証拠からは、プラットフォームがこうした対応を不得手としており、発信者と社会全体に大きな損失をもたらしかねないことがうかがえる。些細に見える事例でも、重大な影響を及ぼすことがある。例えば、Facebookの新しい政治広告の本人確認システムは、「Bush」や「Clinton」を名前に含む一般企業の広告をブロックした。これは単なる不便ではない。世界最大のソーシャルメディアプラットフォームで広告を出せなくなった、何の落ち度もない企業にとって、現実に大きな問題となる。
一方、Facebookが政治報道を取り上げる新聞社の広告を誤ってブロックする一方で、多くの政治広告はブロックしなかったことは、新聞社にとって単に不便だったり収入を失ったりする問題にとどまらず、差し迫った政治課題に関する報道を人々から奪うことにもなる。選挙前の数日間に重要な記事を広められないことは、現実に深刻な悪影響をもたらしうるが、指標に焦点を当てた透明性レポートには、そうした影響は表れない。
さらに懸念されるのは、コンテンツモデレーションの取り組みが、意図せず脆弱な立場にある人々や、従来から周縁化されてきたコミュニティに影響を及ぼすという、憂慮すべき傾向だ。Facebookの政治広告の本人確認システムは、米国の非正規移民が政治広告を購入することを事実上禁じている。Facebookはコミュニティ規定を理由に、以前にも誤って公民権を求める抗議活動の告知を削除したことがある。脆弱な立場にあるコミュニティや個人への暴力を防ぐことが目的なら、そうした暴力を報告し、反対運動を組織する取り組みを誤って抑え込むことも、コンテンツモデレーションの有効性を評価する際に真剣に考慮すべきだ。
説明責任のない巨大企業が不透明かつ恣意的とも見える方法で取り締まりを行うなか、オンラインプラットフォームにコンテンツモデレーションの責任を負わせようとする動きは、社会全体を蝕む影響をもたらす。米国では、トランプ大統領が繰り返しGoogle検索やその他のソーシャルメディアプラットフォームを偏向していると非難してきた。米連邦議会の共和党議員や保守派の活動家も同様の非難を繰り返してきた。一方、進歩派や有色人種のコミュニティは、ソーシャルメディアプラットフォームが一貫して自分たちのコンテンツを差別していると主張している。
こうした状況は、報道への信頼をさらに損ない、公共の場における市民的な議論のためのソーシャルメディアの有用性を弱める。また、ソーシャルメディアが対立陣営の一方を不当に優遇していると双方が確信することで、社会の分断を深める。さらに懸念されるのは、権力者から規制強化をちらつかされると、プラットフォームがその政治家の歓心を買うことを狙ったコンテンツを、より積極的に宣伝するよう促されることだ。
ほかの選択肢を探る必要がある
最近再版された著書で、『Internet of Garbage』の著者サラ・ジョン（本人も組織的なオンライン嫌がらせの被害者である）は、インターネットの初期に検知と削除に焦点が置かれたことで、脆弱な立場にあるユーザーを守るあらゆる取り組みが、この二つの選択肢に狭められてきたと論じている。しかしジョンが説明するように、「検知と削除に焦点を当てた嫌がらせのサイクルは、必ず堂々巡りになる」。だからといって、私たちが手を引いて無力に傍観するしかないわけではない。「削除は道具箱の中の一つの道具と考えるべきで、最終目標ではない」とジョンは結論づける。「削除は勝利でも、自由でも、恐怖からの解放でもない。ただ削除するだけだ。」
電子的な大衆通信手段が新たに登場するたびに、その手段が憎悪をあおる者、扇動政治家、犯罪者に利用されないようにする方法を見直す必要が生じてきた。例えば各国は、電話を使った詐欺や個人への脅迫を防ぐ法律を整備してきた。こうした法律は、単純な検知と削除に焦点を当てたり、責任を電話会社や放送事業者に全面的に委ねたりするものではない。同時に、言論の自由と適正手続きへの懸念に配慮するよう設計されている。一般に、こうした解決策には、新技術の特定の利用を犯罪化すること、放送事業者またはネットワーク運営者に何らかの協力と報告を義務づけること、司法上の適正手続き、そして差し迫った危害がある場合の例外が含まれる。
こうした解決策は完璧ではないが、恣意的な民間の門番と無力状態の間で、社会が見いだした現実的かつ実行可能な均衡を示している。ソーシャルメディアについても、各国がこれに似た、適切で現実的かつ実行可能な均衡を真剣に探るべき時が来ている。過去の通信規制の解決策だけで十分だと考える人はいないが、まずはそれらを検討すべきだ。
要するに、プラットフォームに「削除せよ」と言うか、政府に「手を引け」と言うかという二つの極端な立場から離れるべき時が来ている。関係者が一堂に会し、二つの基本原則を認識しなければならない。現状は個人にとっても民主主義の規範にとっても耐え難いほど危険であること。そして、プラットフォームが個人と社会全体に現実の損失をもたらさずに、有害なコンテンツを魔法のように消し去ることはできないことだ。政府と関係者がこの現実を受け入れて初めて、危険なオンラインコンテンツに効果的に対処するための本当の取り組みを始められる。
