ネット上のいじめや憎悪、扇動が増加しており、新たな方法で対処する必要があります。オーストラリア上院がサイバーいじめに関する調査の公聴会を開くにあたり、この問題に対処する二本柱のアプローチを検討すべきです。
第一に、政府はドイツにならい、大手ソーシャルメディア企業が自社のプラットフォーム上の有害コンテンツを減らせなかった場合に、金銭的な制裁を科すべきです。
第二に、企業が規則を順守しているか確認できるよう、投稿・削除される有害コンテンツの量を正確に特定し、測定する方法を開発しなければなりません。
ソーシャルメディア上のデータ量を踏まえると、規制を支える手段の一つとして人工知能（AI）が必要ですが、その限界も理解しておく必要があります。
被害者への影響
2015年、オーストラリアの弁護士ジョシュ・ボーンスタイン氏は、深刻なネット上の嫌がらせの被害者となりました。米国在住の男がボーンスタイン氏になりすまし、同氏の名で人種差別的な記事をネットに掲載したのです。その後、ボーンスタイン氏は世界中から殺到する憎悪の標的となりました。
この出来事はボーンスタイン氏に大きな苦痛を与えましたが、ネット上の憎悪は社会全体にも影響を及ぼします。匿名の陰に隠れた同じ男は、別の偽名を使ってイスラム国（IS）の支持者を装い、オーストラリアやその他の西側諸国でのテロ攻撃を呼びかけました。12月、男は米国でテロ関連の罪により有罪判決を受けました。
ボーンスタイン氏は現在、政府によるソーシャルメディア企業の規制と、被害者が行動を起こせるようにする法的救済の両方を求めています。
規制モデルとしてのドイツ
最近ドイツで導入された新法は、明白なヘイトスピーチを24時間以内に削除するよう企業に義務づけています。
これを受け、Facebookは1,200人の従業員と契約社員を雇用し、ドイツの利用者から寄せられる有害コンテンツの報告をより効率的に処理できるようにしました。24時間以内にその大半を削除できなければ、規制当局は最大5,000万ユーロ（7,900万豪ドル）の罰金を科すことができます。
この法律は完璧ではありません。施行から数か月もたたないうちに、ドイツはすでに、ソーシャルメディア企業が過度に慎重になることで言論の自由が損なわれるのを防ぐため、改正を検討しています。それでも、ドイツのアプローチは、サイバーいじめに対する国家の強力な対応がどのようなものかを示しています。
これは、テクノロジー規制の新時代の幕開けにすぎません。ネット上でどれほどの有害コンテンツが投稿され、プラットフォームがどれほど削除しているかを把握できなければ、サイバーいじめ対策法を執行できません。そのためのツールが必要です。
人工知能の活用
オンライン・ヘイト防止研究所（OHPI）では、過去6年間、ボーンスタイン氏の事例を含む個別の問題に取り組むとともに、世界最高水準のクラウドソーシングと人工知能の手法を用いて、測定の課題にも取り組んできました。
特定と測定を次の段階と捉える動きは、ほかにもあります。反ユダヤ主義サイバー監視システム（ACMS）は、ソーシャルメディア上の反ユダヤ主義を監視する新たなツールです。イスラエルのディアスポラ問題省が2016年10月から開発を進めており、今月後半、エルサレムで開催される2018年反ユダヤ主義対策世界フォーラムで公開される予定です。
このツールは、人工知能の一種であるテキスト分析を用います。反ユダヤ主義的なコンテンツの可能性を示すと特定された単語、句、記号をソーシャルメディア上で検索し、コンテンツを精査して、対話型のグラフを作成します。
同様のアプローチは、世界ユダヤ人会議やGoogleのConversation AIプロジェクトでも採用されていますが、この手法は効果が限られており、特に大規模なソーシャルメディアサイトでは有効性に乏しいのが実情です。
ACMSの1か月間の試験運用データが、システム公開に先立って発表されました。このソフトウェアはネット上の憎悪との闘いにおける大きな前進として紹介されていますが、データ自体は、重大な方法論上・技術上の限界を示しており、むしろ注意をそらすものになっています。
テクノロジーの限界
ACMSの限界の一つは、極右勢力がますます好んで使う隠語や記号、婉曲表現を用いた嫌がらせを検出することです。
もう一つは、ACMSがFacebookとTwitterのコンテンツしか監視しない点です。以前の報告書で特定されたネット上の反ユダヤ主義の41％を占めていたYouTubeは対象外です。また、自動システムが監視するのは、英語、アラビア語、フランス語、ドイツ語のコンテンツのみです。
さらに懸念されるのは、同省が、最も多くの人種差別的コンテンツを生み出している都市はサンティアゴ（チリ）、ドニプロ（ウクライナ）、ブカレスト（ルーマニア）だと主張していることです。これらの都市の主要言語はソフトウェアが処理できるよう設定されていないにもかかわらず、なぜか、主要言語を処理できる都市より高い順位になっています。
オーストラリアにとって特に懸念されるのは、「注目地点：場所別の反ユダヤ主義の度合い」と題されたグラフで、英語圏の都市のうちブリスベンが最上位に示されていることです。この結果については後の説明で、ブリスベンから最初に投稿されたコンテンツに反応した世界中の「いいね！」、シェア、リツイートを合算した数だと示唆されました。したがって、このデータは、どのコンテンツが偶然拡散するかによって大きく左右されます。
弁護士とデータサイエンティストの協力が必要
AIを活用した検出ツールにも役割はありますが、その限界を理解する必要があります。テキスト分析で特定できるオンライン上の憎悪には、かぎ十字、ヒトラーやナチス、ガス室や焼却炉に関する言葉、一部の極右グループで目立つ反ユダヤ主義的なテーマなどがあります。しかし、万能な解決策ではありません。
特定にとどまらず、オンライン空間の規制方針を検討するには、弁護士とデータサイエンティストの双方の知見が必要です。新たな人工知能ツールは、一般の人々から集めたクラウドソーシングデータなど、ほかの手法と照合して検証する必要があります。また、専門家がデータの正確性を確認しなければなりません。新しいテクノロジーを規制の仕組みを支えるために活用しつつ、Centrelinkを悩ませた自動債務算定の問題のような、失敗した自動検閲に陥らないようにする必要があります。
サイバーいじめに関する調査は重要な一歩です。ただし、今日の問題だけでなく、明日の解決策につながるものでなければなりません。
