近年、サイバーセキュリティの技術者は、「ゼロトラスト」と呼ばれる新しいセキュリティモデルへの移行を進めています。これは、いかなるユーザーやデバイスに対しても、初期設定で信頼を自動的に与えるべきではないという考え方です。
この姿勢は、デジタル社会ではまだ採用されていません。オンライン利用者は、情報の検証工程を飛ばしてしまうことが多く、それは虚偽や誤解を招く情報が世界的に増えていることからも明らかです。
ゼロトラストモデルの原則を取り入れることで、オンライン利用者は、新たに登場したAI技術の力を、人間によるモデレーションやブロックチェーン技術と組み合わせて活用し、情報の検証能力を高めることができるかもしれません。
信じるべきか、信じないべきか？ 近年、誤情報、偽情報、フェイクニュースが急増しています これは、シェイクスピア風の問いかけそのものが実は本質的な問いではないことを示しています。誰を信頼すべきかという問いも、また本質ではありません。
人々は、権威があると認識している情報源に頼りがちであり、その情報源が実際に信頼できるかどうかは関係なくなっています。それはソーシャルメディア、テレビ、さらには大規模言語モデル（LLM）サイトで提示された回答である場合もあります。情報が豊富にあっても必ずしも信頼できるとは限らない中で、オンライン利用者が本当に探し求めるべき答えは、どのように信頼すべきかということです。
この信頼の課題は、特定のメディアや地域に限ったものではありませんが、その拡大において技術が果たしている役割は見過ごせません。技術の進歩により、プラットフォームは大規模に情報を伝えることも、誤情報を広めることも可能になりました。ソーシャルメディアのアルゴリズムは、必ずしも事実確認を行わないまま注目度を高めます。LLMは、真実と幻覚をまぎれもなく混ぜ合わせた文章を生成することがあります。さらに、歴史ある信頼できるニュース源でさえ、競合する主張の洪水の中で権威を保つことに苦慮しています。
しかし、この信頼の危機に対する解決策は、ゼロトラストの原則の一つを借用すれば、テクノロジーの世界にも見いだせる可能性があります。サイバーセキュリティにおけるゼロトラストとは、いかなるユーザー、デバイス、取引にも初期設定で信頼を与えず、代わりにすべての要求を認証し、継続的に検証することを意味します。
ゼロトラストの中核となる原則は、オンライン利用者が一般的にデジタル情報を受け取る方法とは対照的です。今日、人々はプラットフォームが持つとされる権威や親しみやすさに頼り、情報の検証工程を完全に省いてしまうことがよくあります。しかし、コンテンツの量が増え続けるなかで、基準を守り続けることは難しい課題となっています。
現在のサイバーセキュリティの取り組みで十分でしょうか？
一部のプラットフォームは、信頼性の低下という要素を認識し、コミュニティ主導の検証ツールを通じて信頼性の再構築を試みてきました。例えば、ソーシャルプラットフォームのTwitter（現X）は、コミュニティ主導のコンテンツモデレーションの取り組みを開始し、2021年には「Birdwatch」と呼ばれ、その後「Community Notes（コミュニティノート）」となりました。
このアプローチは、誤解を招く可能性のある投稿に対して、ユーザーが共同で注釈を付けることを促します。机上の計画では、この分散型のファクトチェックの仕組みには有望に思えました。群衆が追加の文脈を提供し、不正確な点を指摘できるはずだったからです。しかし、コミュニティノートは、決定的な解決策となることに苦戦しており、実際の運用においては課題が残っています。誰が寄稿し、特定のノートがどのように優先的に表示されるのかについての透明性は限定的です。
共同検証のもう一つの例は、ウィキペディアのオープン編集モデルです。ここでは、ボランティアの寄稿者が記事の正確性を評価し、改善しています。ウィキペディアは、共同でのモデレーションによって一定の品質の水準を維持できることを示しています。明らかに虚偽の情報は速やかに修正されることが多く、同プラットフォームは厳格なルール、出典要件、編集上の議論の仕組みを整えてきました。しかし、ウィキペディアも課題から免れてはいません。編集者コミュニティ内でのハラスメントから、解釈、情報源、編集上の偏りに関する意見の不一致に至るまで、さまざまな課題があります。また、このサイトはボランティアに依存しているため、あまり知られていないテーマは、人気のあるテーマと同程度の注目や専門的知見を得られない場合があります。
これら二つの代表的な例は、そうした対策がある程度の効果をもたらしているとしても、拡張性や透明性に欠けることが多いことを示しています。もしゼロトラストの枠組みがサイバーセキュリティ上の問題に対する有効な解決策になったのであれば、同様の考え方をデジタル情報と信頼の問題にも適用できないでしょうか？
変革のための青写真
ゼロトラストモデルに着想を得て、私たちは、ニュース媒体からソーシャルメディアのプラットフォームに至るまで、情報を扱うプラットフォームに導入できる標準化されたシステムとして、検証済みの真実、事実、情報の出典を含む、中立的で第三者的かつ高度な知識ベースを想定することができます。
このような知識ベースは、人間によるモデレーション、ブロックチェーン技術、AIによる分析という三つの要素を統合し、それぞれの強みを活かすことができるでしょう。各要素は追加の検証工程として機能し、誤情報が見過ごされる可能性を減らし、デジタル上の議論全体の質を向上させます。
人間によるモデレーションは、できれば透明性が高く多様な専門家の集団を通じて行われることが望ましく、微妙な判断を示し、重要な事実の主張を監督し、基準の策定についての指針を提供することができます。すべてのコンテンツを判断することは、ますます不可能な作業となっていますが、そうするのではなく、ルールと境界の設定を支援することが役割となるでしょう。
ブロックチェーン技術が暗号資産との結びつきから離れ始めたのは、ここ数年のことにすぎません。オンライン利用者がブロックチェーン技術に馴染んでくるにつれ、それは、各情報が経る検証の工程を記録する、改ざんできない台帳としての役割を果たすことができるかもしれません。このシステムでは、ある主張のファクトチェックの履歴、情報源、編集上の判断が、分散的な方法で保存されることになります。利用者とプラットフォームの双方は、ある主張の系譜をたどり、いつ、誰によって、どの基準に従って検証されたのかを確認することができます。
これらの要素に沿って、AIと機械学習モデルは、分析と自動化された精査の層として機能することになるでしょう。検証済みの情報源と既に承認された事実の記述によって訓練されたこれらのモデルは、矛盾を指摘し、不審なパターンを浮き彫りにし、さらにはより質の高い情報源を提案することもできるでしょう。透明性のある検証履歴は、さらなる審査の層を加えることになります。完全無欠ではないものの、これらのツールは、疑わしい大量のコンテンツを除外することで、人間のモデレーターの負担を軽減するでしょう。
このような理論的なモデルは、前進するための方法の一つにすぎません。プラットフォームは、情報を共有している者が実在のユーザーであり、ボットではないことを示すために匿名認証を導入することもでき、それによって誤情報の自動拡散を抑えることにつながります。ネットワーク分析は、誤情報がどこから発生し、どのような共通の経路をたどるのかを特定するのに役立つかもしれません。誤情報の発生源を見つけることは、その拡散を抑制するうえで極めて重要です。
誤情報を、接続性がもたらす避けられない副産物として受け入れるのではなく、あらゆる場面で信頼性を求め、示すようなシステムを構築することができます。この転換を受け入れることで、事実と信頼がより強固な基盤の上に立つ未来へ一歩近づくことができるのです。
