YouTubeは初めて、プラットフォームのポリシー違反を理由に削除した動画の数を詳細に示した報告書を公表した。その数は非常に大きい。
Alphabetが所有するこのサイトは、2017年第4四半期だけで800万本以上の動画を削除した。では、どのようにして削除の判断を下したのか。機械学習技術が大きな役割を果たした。
YouTubeによると、現在は削除された動画のうち83%以上が、人間ではなく機械によって審査対象として検出されていた。また、それらの動画の4分の3以上は、一度も再生されないうちに削除されていた。大半はスパムまたはポルノだった。
機械学習（業界がしばしばAIと呼ぶもの）は、アルゴリズムにデータを学習させることで、パターンを見つけ出し、人間の介入なしに自ら行動できるようにする仕組みである。今回のケースでは、YouTubeはこの技術を使い、問題のあるコンテンツを自動的に検出している。
YouTubeチームは、ブログ記事の中で、この手法の利用が大きな効果をもたらしたと述べた。
プラットフォームで禁止されている「暴力的過激主義」を含む動画に関しては、「暴力的過激主義」を含む動画に関しては、2017年初頭には、そうした動画のうち再生回数が10回に達する前に検出され削除されたのは8%にすぎなかった。その年の半ばにYouTubeが検出に機械学習の利用を開始すると、「暴力的過激主義を理由に削除している動画の半数以上は、再生回数が10回未満です」とチームは述べた。
ただし、機械学習の利用は、削除すべきでない内容が削除されているという重大な問題を提起している。例えば、暴力的過激主義の描写の中には、風刺やありのままの報道である場合もある。
Middle East EyeやBellingcatなど複数の報道機関は、昨年後半に、YouTubeがシリアでの戦争犯罪を描いた、自分たちが共有した動画を削除していることを突き止めた。2014年にウクライナ上空でマレーシア航空17便が撃墜された事件の調査において、市民ジャーナリストとして重要な役割を果たしたBellingcatは、チャンネル全体が停止されていた。
「当サイトには膨大な量の動画があるため、時には誤った判断を下してしまうこともあります。動画やチャンネルが誤って削除されたという指摘があった場合には、迅速に復元の措置を講じています」と、YouTubeは述べた当時。
月曜日に公開されたブログ記事でYouTubeは、機械学習システムであっても、潜在的なコンテンツポリシー違反の審査には依然として人間が必要であり、この技術によって検出される動画の数が増えたことで、実際に人員の必要性が高まっていると述べた。
「昨年、私たちは2018年末までに、Google全体で違反コンテンツへの対応に当たる人員を1万人にすることを約束しました」とチームは述べた。「YouTubeでは、その目標達成に向けて必要な追加の役割のほとんどを人員配置しました。また、暴力的過激主義、テロ対策、人権の分野で専門知識を持つ常勤の専門家を採用し、地域の専門家チームも拡充しました。」
