MITは、オンライン上の偽情報の言説を自動的に検出するため、影響力工作の偵察（RIO）プログラムを立ち上げた。
2017年のフランス大統領選挙の直前の数日間、研究者らはRIOシステムを用いて、偽情報を拡散するアカウントを96％の精度で特定することができた。
研究チームは、政府と産業界の双方が偽情報への対策に活用できるよう、このRIOツールをさらに発展させることを目指している。
偽情報キャンペーンは新しいものではない。敵に対して世論を操作するために用いられた戦時中のプロパガンダを思い浮かべてほしい。しかし新しいのは、こうしたキャンペーンを広めるためにインターネットとソーシャルメディアが使われるようになったことだ。ソーシャルメディアを介した偽情報の拡散は、選挙を左右し、陰謀論を強め、不和をまく力を持っている。
MITリンカーン研究所の人工知能ソフトウェアアーキテクチャ・アルゴリズムグループのスタッフであるスティーブン・スミスは、影響力工作の偵察（RIO）プログラムを立ち上げ、こうしたキャンペーンをより深く理解しようとする研究チームの一員である。チームの目標は、ソーシャルメディアのネットワーク内で偽情報の言説を広めている個人と言説の両方を自動的に検出するシステムを構築することだった。今年初め、チームはこの研究について、論文を発表した。その研究は、米国科学アカデミー紀要に掲載され、昨年秋にはR&D 100賞を受賞した。
このプロジェクトは2014年、スミスと同僚らが、悪意のある集団がソーシャルメディアをどのように悪用しうるかを研究していた際に始まった。彼らは、親ロシア的な言説を発信しているように見えるアカウントのソーシャルメディアデータに、増加と異常な活動を発見した。
「私たちは少し途方に暮れていたんです」と、スミスはそのデータについて語る。そこでチームは、研究所の技術オフィスを通じて社内資金を申請し、同様の手法が2017年のフランス大統領選挙で使われていたかどうかを検証するためにプログラムを立ち上げた。
選挙前の30日間、RIOチームはリアルタイムのソーシャルメディアデータを収集し、偽情報の拡散を検索・分析した。合計で、100万のアカウントから2,800万件のTwitter投稿を集めた。その後、RIOシステムを用いて、偽情報を拡散するアカウントを96％の精度で検出することができた。
RIOシステムの特徴は、偽情報の言説がどこでどのように拡散しているかを包括的に把握するため、複数の分析手法を組み合わせている点にある。
「ソーシャルネットワーク上で誰が影響力を持っているかを知ろうとするとき、従来は活動件数に注目されてきました」と、研究チームのもう一人のメンバーであるエドワード・カオは語る。例えばTwitterでは、アナリストはツイートとリツイートの数を検討してきた。「しかし、多くの場合それでは不十分だと分かりました。そのアカウントがソーシャルネットワークに与える影響は、実際にはそれでは分からないのです。」
研究所のリンカーン・スカラーズ・プログラム（授業料補助プログラム）におけるカオの博士課程の研究の一環として、彼は統計的手法を開発した。この手法は現在RIOで使われており、ソーシャルメディアのアカウントが偽情報を拡散しているかどうかだけでなく、そのアカウントがネットワーク全体をどの程度変化させ、メッセージを増幅させているかを判断するのに役立つ。
研究チームのもう一人のメンバーであるエリカ・マッキンは、新たな機械学習の手法も応用した。この手法によりRIOは、アカウントが外国メディアと交流しているかどうか、どの言語を使用しているかといった行動に関するデータを基に、これらのアカウントを分類できる。この手法により、RIOは2017年のフランス大統領選挙から新型コロナウイルス感染症（Covid-19）に関する偽情報の拡散まで、多様なキャンペーンで活動する敵対的なアカウントを検出できるようになった。
RIOのもう一つの独自の特徴は、ボットと人間の双方が運用するアカウントの影響を検出し、定量化できることだ。現在使われているほとんどの自動化システムは、ボットしか検出できない。また、RIOはシステムを利用する人々が、さまざまな対抗策によって特定の偽情報キャンペーンの拡散をどの程度食い止められるかを予測する機能も備えている。
世界経済フォーラムはサイバーセキュリティで何をしているのか
サイバーセキュリティセンターは、変化し続けるサイバーリスクとその体系的な影響について、リーダーが集まって理解を深めるための信頼できるプラットフォームを提供している。相互に結びつきを強める デジタル社会において、理解と信頼の構築に重点を置いている。
セクターを越えた協力と知見の共有を可能にすることで、センターはパートナーがサイバーレジリエンスを強化し、集団的な対応を必要とする課題に取り組めるよう支援している。
研究チームは、RIOが政府と産業界の双方で活用され、ソーシャルメディアにとどまらず、新聞やテレビなどの伝統的なメディアの領域にも広がることを構想している。現在は、ウェストポイントの学生であり、MITの大学院生かつリンカーン研究所の軍事フェローでもあるジョセフ・シュレシンジャーと協力し、欧州のメディア各社の間で言説がどのように広がるかを明らかにしようとしている。また、影響力工作の認知的側面と、偽情報によって個人の態度や行動がどのように影響されるかを掘り下げる新たな後続プログラムも進行中である。
「偽情報への対抗は国家安全保障の問題であるだけでなく、民主主義を守ることにも関わる問題です」と、カオは語る。
