ソーシャルメディアのネットワークで、本物のニュースとフェイクニュースを見分けるのは簡単ではありません。
悪意ある人々は、私たちの心理を逆手に取り、フェイクニュースを真実だと信じ込ませようとします。
人間の認知と行動科学の理論に基づき、定量的な指標を算出し、自然言語処理の手法を適用することで、フェイクニュースを見分ける手助けができます。
フェイクニュースにだまされないためには、どうすればよいのでしょうか。ソーシャルネットワークには情報があふれており、何が本当で何が信頼できない情報なのかを見極めるのはほぼ不可能です。
問題は、誤った内容そのものよりも、悪意ある人々が私たちの心理を逆手に取ろうとすることにあります。このため、誤情報は6倍の速さで拡散します。ソーシャルネットワーク上で、信頼できる情報よりも速く広がるのです。それだけではありません。誤情報は、その内容に対抗する私たちの能力を上回る量（量の問題）、多様な類型（幅の問題）、そして速さ（速度の問題）で生み出されています。それでも、記事の作者が私たちの心理につけ込んでだまそうとしているかどうかを示す手がかりはいくつかあります。
人間の認知と行動科学の理論に基づき、定量的な指標を算出し、自然言語処理の手法を適用することで、フェイクニュースを見分ける手助けができます。たとえば、媒介された動機づけメッセージ処理の限定容量モデルは、テキストの構造的・機能的な特徴が異なれば、脳が処理するために必要な認知的努力も異なると提唱しています。つまり、すべてのテキストが同じ程度に複雑なわけではありません。たとえば、幼児向けの本は科学論文よりも構造が単純です。問題は、ソーシャルネットワークでは、人は情報処理にかける労力を最小限に抑えようとする傾向があることです。このため、より単純な内容ほど拡散されやすいのです。
一方、私たちの心理は感情の影響も受けやすいものです。研究によると、感情に強く訴える内容ほど拡散されやすく、ソーシャルネットワークが「大規模な感情の伝染」の源と見なされる理由が説明できます。感情に強く訴える情報に触れると、私たちの心理は合理性を失い、真実と偽りを見極める能力が低下します。これを踏まえ、フェイクコンテンツの作成者は私たちの感情につけ込もうとします。最近の研究では、さまざまな種類の誤情報が用いる戦略、いわば「誤情報の指紋」を明らかにしようとしました。そのため、クリックベイト、陰謀論、フェイクニュース、ヘイトスピーチ、疑似科学、信頼できる情報源、うわさの7つのカテゴリーに分類した、9万2,000件を超えるフェイクニュースのコンテンツを用いました。そして、感情の喚起と認知的努力の観点から、これらを本物のニュースと比較しました。
誤情報の指紋
自然言語処理を用いて、誤情報の各カテゴリーが本物のニュースとどの程度異なるかを、感情の喚起（感情分析と道徳的価値観への訴求）と、コンテンツの処理に必要な認知的努力（文法的複雑さと語彙の多様性）の観点から算出しました。その結果、フェイクコンテンツと本物のコンテンツには大きな違いがあることが分かりました。
このグラフが示すように、ほぼすべての種類の誤情報は、信頼できるニュースより文法構造が単純です。そのため、ユーザーに必要な認知的努力が少なく、処理しやすくなっています。同様に、どの種類も語彙の多様性が15％低く、処理に必要な認知的努力がさらに少なくなっています。感情の喚起に注目すると、誤情報は本物のニュースよりもはるかに感情的であることが分かります。実際、感情の極性において、誤情報は10倍も否定的です。さらに重要なのは、読者の道徳観に37％強く訴えかけていることです。つまり、読者の個人的な社会的アイデンティティ（ジェンダー、宗教、国籍など）への攻撃を伝える考えを通じて、ユーザーに心理的な影響を与えようとしているのです。
否定的な内容が多く、社会的アイデンティティに訴えかける記事の例を以下に示します。これは、フランスの警察官2人が銃撃された事件を報じた、分析対象の記事の一つから引用したものです。「（…）彼女の立候補［マリーヌ・ル・ペンを指す］は、グローバリストが仕組んだEUへのイスラム主義者の侵略と、それに伴う主権の喪失に対する蜂起だった。フランスにテロリストやイスラム主義者が押し寄せているのはEUの責任だ（…）」幸い、こうした結果は、私たちの心理を操る誤情報の作成者にだまされないためのさまざまな提言にもつながります。先ほどの結果の構成に沿って、誤情報にだまされないために、次の提言を導き出すことができます。
文法や語彙の構成が粗雑なコンテンツには疑いを持つ
誤情報の作成者は、ソーシャルネットワークを閲覧する人が、ほかの状況ほど労力をかけないことを知っています。結局のところ、情報を得たり楽しんだりするために利用しているのであって、作業をするためではありません。そのため、コンテンツの処理に認知的な負担がかからないようにします。そうすると、脳にとって魅力的になり、信じてネットワーク上のほかの人々と共有する可能性が高まります。インターネット上のすべてのコンテンツが複雑であるべきということではありません。疑わしいほど単純なコンテンツを見分ける方法を知ることが大切です。
感情を揺さぶろうとしたり、道徳観に訴えたりするニュースを信用しない
行動科学のあらゆる研究が示すように、人間は自分たちが思うほど合理的ではありません。感情は、精神的なプロセスや意思決定に強く影響します。だからこそ、フェイクコンテンツの作成者は感情につけ込み、読んでいる内容が真実かどうかを合理的に見極められないようにしようとします。怒りや恐怖、悲しみを引き起こし、理性を曇らせることで感情に訴えかけます。また、国籍、ジェンダー、意見といった社会的アイデンティティが危険にさらされていると感じさせる戦略も用い、集団の外に自分たちの存在そのものを脅かす敵がいるという感覚を生み出します。攻撃されているというこの感覚も、私たちの心理にある仕組みを作動させ、行動をより非合理的にし、現実と偽りを見分ける能力を低下させます。
したがって、この研究結果は、インターネット、特にソーシャルネットワークを利用する際に警戒し、誰かが私たちの心理につけ込もうとしていないかを見抜くことが重要だと示しています。そのためには、個人の取り組みだけでなく、社会全体での取り組みも必要です。
まず、ソーシャルメディア企業は、自社のプラットフォームが人類史上かつてない情報へのアクセスを可能にしていること（これは非常に有益です）と同時に、利用者の心理につけ込んで経済的または政治的な目的を追求する悪意ある人々に利用されていることを認識しなければなりません。また、この結果は、国民のメディアリテラシーが驚くほど低い水準にあることに、政策決定者がより強い関心を払うべきだという呼びかけでもあります。テクノロジーの進歩は、私たちの心理や教育制度、政策立案よりもはるかに速いペースで進んでいます。すでに直面している課題とこれから生じる課題の解決に、より一層取り組まなければ、社会に問題をもたらすでしょう。
