誤情報の拡散は昔からありましたが、デジタル時代には日々直面する問題です。私たちは日々直面しています。誤情報問題の核心にあるのは確証バイアスです。私たちは自分自身の世界観を裏付ける情報に飛びつき、それに反するものを無視しがちで、その結果、分極化が生じます［1、2］。
主流メディアのような仲介者がしばしば介在しなくなった環境で、一般の人々は、信頼できる情報源を損なう大量の誤解を招く情報にさらされています。計算社会科学の最近の研究によると、オンラインユーザーは確証バイアスに基づいて情報を選び、仮想的なエコーチェンバーに加わる傾向があります。そこでは信念が強化され、分極化が進みます。
極端な例として、陰謀論者は社会や政治に関わる重要な事柄を、権力を持つ個人や組織が企てた陰謀として説明する傾向があります。こうした陰謀論は、いわゆる都市伝説と重要な特徴を共有しています。物語の題材は必然的に既存の社会秩序を脅かし、地域社会や社会集団が深く恐れているものに焦点を当てます。フェイクニュースもまた大きな問題であり、さまざまな政策立案者が繰り返し取り上げています。たとえば、イタリア下院議長のラウラ・ボルドリーニ氏は最近、あらゆる分野の関係者が参加する公開協議の場でこの問題を取り上げました。
同じ考えを持つ人々の集団内での議論は、ユーザーの感情に悪影響を与え、集団の分極化を強めるようです。代替医療のようなセンシティブな話題に関する数百万人のユーザーを対象とした実験的証拠は、意図的な虚偽の主張を含んでいても、ある物語を裏付ける情報は受け入れられる一方、その物語に異を唱える情報は無視されるか、さらには集団の分極化を強める可能性さえあることを示しています。
このような環境では、ソーシャルメディアが中心的な役割を果たします。その立場は曖昧です。一方では、自由を支える手段のように、人々に情報を伝え、関与を促し、行動を起こさせる力を持っています。他方では、誤情報を流し、人々を操り、支配する力を持ち、一部にとっては残念ながら、それが使命でもあります。
ファクトチェックは有用な手段ですが、残念ながら特定のエコーチェンバー内にとどまり、分極化や不信感をかえって強める可能性さえあります。
したがって、ファクトチェックを解決策と考えること自体が、一種の確証バイアスと言えます。実際、情報源の評判に基づくファクトチェックの取り組みやアルゴリズムによる解決策は、これまで効果を上げていません。ワシントン・ポスト紙でさえ、ファクトチェックを扱う週刊コラムを終了しました。さらに問題を複雑にしているのは、ソーシャルメディアのユーザーが投稿への「いいね」の数を最大化しようとすることで、情報や概念、議論がしばしば平板化され、過度に単純化されることです。
では、何かできることはあるでしょうか。おそらくあります。まず、単純なことに聞こえるかもしれませんが、科学とジャーナリズムの連携を強化することが不可欠です。一方で科学者は、不確実性や複雑性といった概念を例に、社会とのコミュニケーションを改善する必要があります。他方でジャーナリストは、誤情報とその影響、経済問題、テクノロジー、健康などの複雑な現象を報道するため、より高い専門性を身につけるべきです。
第二に、これに関連して、計算社会科学は、ニュースがどのように拡散し［3］、消費されるかという過程を研究し、定量的に特徴づけ、モデル化できるようになっています。これにより、世論の動向を早期に検知する仕組みを提供できます。具体例として、反ワクチン派のエコーチェンバーを考えてみましょう。ユーザーにとって主な関心事は何か、それらにどのような価値を見いだしているか（言い換えれば、ワクチンを接種しないことが、なぜ良いとされているのか）、そしてその物語を支える信念は何かを、今では把握できます。こうした情報に基づけば、情報カスケードの可能性を検知し、食い止めることが容易になります。
現在、ソーシャルメディア（Facebook、Twitter、YouTube）上の情報の流れを分析するソフトウェアと、社会の動態を把握するための一連の定量指標があります。たとえば、エコーチェンバー内でのユーザーの分極化、関心のある話題、新たに浮上する話題、感情傾向などを測定できます。
こうしたツールを使えば、ある種のグローバルなファクトチェックの仕組みを構築できます。ニュースの拡散をリアルタイムで監視し、エコーチェンバー、特定の物語をめぐるユーザーの分極化、ユーザーの感情傾向、特定のエコーチェンバー内での物語の変化を特定します。さらに、物語の新たな提示方法やエコーチェンバーに入り込む戦術を用い、ユーザーの段階で介入することで、こうした特徴を効果的に解き明かす方法を提案します。
人々は個人の信念や感情の状態に応じて自然に情報を選ぶため（確証バイアス）、ニュースがどのように広まり、どのように消費されるかを理解することは、ユーザーの認知的ニーズを考慮した効果的なコミュニケーション戦略やツールの設計に役立ちます。定量的な研究に支えられたこの仕組みは、情報消費を研究・測定するツール一式と、オンラインでの誤情報の拡散に対抗するさまざまなコミュニケーション戦略の効果を評価する手段を提供します。
これを複数の言語やさまざまな物語、さらには個別の問題にも応用できます。
このようなアプローチに伴う実験がプライバシーに及ぼす影響を心配する人もいるでしょう。集計レベルでの分析だけであれば、その懸念は当てはまりません。集計レベルの分析で、発信者（たとえば、誤情報を正す人々）は、対象とするオーディエンスのニーズに応える（あるいは、そこに介入する）ことができます。もう一つの段階として、より個別化されたリアルタイム実験が、実際にどの程度プライバシーに関わるのかを確かめることには、確かに意義があります。たとえば、仮想の友人（話すコオロギのようなもの）が、あなたが読んだりフォローしたりする情報のうち、偽情報と思われるものについて、ときどきメッセージで警告してくれるツールを想像してみてください。私たちの心の中のピノキオは、その友人にハンマーを投げつけるでしょうか。
参考文献
1）Quattrociocchi, W., Scala, A., & Sunstein, C. R.（2016）「Facebook上のエコーチェンバー」。
2）Del Vicario, M., Bessi, A., Zollo, F., Petroni, F., Scala, A., Caldarelli, G., ... & Quattrociocchi, W.（2016）「オンラインにおける誤情報の拡散」。米国科学アカデミー紀要、113（3）、554–559。
3）Schmidt, A. L., Zollo, F., Del Vicario, M., Bessi, A., Scala, A., Caldarelli, G., ... & Quattrociocchi, W.（2017）「Facebookにおけるニュース消費の構造」。米国科学アカデミー紀要、201617052。
