2024年には42億人が投票に向かう。しかし人工知能（AI）の時代にあって、誤情報や偽情報の影響により、本来意図された民主的な選挙が実現しない可能性がある。
『グローバルリスク報告書2024』は、誤情報と偽情報を最重要リスクの一つに挙げた。選挙結果の正当性が疑問視され、社会が不安定化する恐れがある。
「ポスト真実の時代」、選挙プロセス、そしてこの1年の生成AIの急増が重なり、テクノロジー企業、政府、メディアは、民主主義を守るために何ができるかを検討しなければならない。
2024年は、世界各地で選挙が最も多く行われる年となる。
一方、バングラデシュと台湾では今月初めにすでに指導者が選出された。米国、インド、英国をはじめとする主要民主主義国で今後行われる選挙は、スイスのダボスで最近閉幕した年次総会、ダボス会議2024で議論の焦点となった。
一部の選挙結果が民主主義の強みと弱みをどう反映するかを指導者たちが議論するなか、人工知能（AI）が選挙プロセスを支援する可能性と妨げる可能性にも注目が集まった。
民主主義を損なうのか？
グローバルリスク認識調査で特定された上位10のリスクの中で、誤情報と偽情報は最上位に位置している。大規模AIモデルの使いやすいインターフェースは、すでに偽情報や、精巧な音声クローンから偽造ウェブサイトまでのいわゆる「合成」コンテンツの爆発的な増加を可能にしている。詳しくは『グローバルリスク報告書2024』で述べられている。
同報告書は、選挙における偽情報が、政府の正当性を傷つけたり疑問視したりすることで社会を不安定化させる恐れも警告した。AIの推進派は、民主主義を損ないかねない生成AI（GenAI）技術が、民主主義を損なおうとする悪意ある勢力への対抗にも役立つと主張する。
「今日の情報環境において、真実とは何か、そして根本的な真実とは何か」。ディープフェイクの時代には、あらゆる議論の出発点がこれだと、民主主義・テクノロジーセンターの最高経営責任者、アレクサンドラ・リーブ・ギヴンズ氏はダボスで語った。
選挙期間中に見られるその他の脅威には、AIによって容易になった、自動音声電話や、有権者の行動を変えさせることを狙った偽情報入りの標的型自動テキストメッセージがある。選挙担当者もフィッシングや個人情報の暴露の脅威にさらされている。
さらに根深い問題として、信頼がある。
「私たちは遺伝によってではなく、育まれることで市民としての個人になる」と、ユーラシア・グループの社長イアン・ブレマー氏は、セッションで指摘した。投票所に向かう42億人。「私たちは市民としての存在になり、周囲には私たちを形づくり、周りの人々とつながることを可能にする制度があります。米国の過去40年を見ると、そうした制度は分断され、信頼を失ってきました」。
「育む力はアルゴリズムに置き換えられつつある」と同氏は付け加え、「私たちと民主主義を対象に、今まさにリアルタイムの実験が行われている」と指摘した。
最近のエデルマン・トラスト・バロメーターでも、イノベーションが適切に管理されないと、テクノロジーと社会の双方が人々を置き去りにし、その結果、制度は偏っており、特に資本主義は良いことより害をもたらすかもしれないと、多くの回答者が考えていることが示された。
信頼について著作があり、講演も行うレイチェル・ボッツマン氏は同じセッションでブレマー氏に対し、AIシステムは本質的に信頼を分配し、民主主義を揺るがすと付け加えた。
「今、私が恐れているのは、これが混乱の真空状態を生み出すことです。そして、最も信頼できないと言える人たちは、こうした力学を理解しています。断片と混乱をすべて利用して、何らかの絶対的な真実や、しばしば力と誤認される偽りの確信を作り出す方法を知っている。信頼はそこへ向かうのです」。
情報の制御が難しい選挙の状況には、混沌としたエネルギーがあるとボッツマン氏は述べ、こう付け加えた。「だからこそ、人々の心に届く声は、明快で断定的なことが多く、何かを支持するというより、何かに反対するのです」。
その問いは、フォーリン・ポリシー誌編集長ラヴィ・アグラワル氏も、次のセッションで投げかけた。ボットと陰謀から民主主義を守る。すなわち、「AIとテクノロジーが混乱ではなく、善のために働く力となるようにするには、どうすればよいのか」。
テクノロジーを善のために活用するか、悪意あるAIを阻止するか？
「善良な側のほうがAIをより活用できます」と、Cloudflareの共同創業者兼最高経営責任者マシュー・プリンス氏は強調した。機械学習が脅威を特定し、それらから守る役割をどう果たせるかについての議論の中での発言だ。
同氏は、提供するテクノロジー、そしておそらく同様のテクノロジーへのアクセスが可能になることで、少なくとも資源の乏しい国々が、すべての人に恩恵をもたらす安定した政府の基盤を整えられると付け加えた。だからこそ、「あらゆる場所の民主主義を守る責任が私たちにはある」と述べた。
「民主主義への信頼を築く」のセッションで、トランスペアレンシー・インターナショナルのフランソワ・ヴァレリアン会長は、ビッグデータと人工知能が、市民社会組織による、民主主義を損なう汚職のパターンや利益相反の特定に役立つという見解に同意した。
「デジタル化すれば、人々は自分自身のデータを確認できます。間違いがあれば、『ここに間違いがある』と言えるし、政府はそれを訂正する必要があります」と同氏は述べた。
テクノロジーを善のために使うことへの信頼は、築いていく必要がある。英国で、コンピューターシステムが数百人の郵便局長を誤って詐欺の容疑者に仕立て上げたスキャンダルはその一例だ。
一方、パンデミックによって人々がデジタル化に慣れ、データが常に漏えいしたりハッキングされたりすることへの不安が薄れたとも指摘された。しかし、AIでは利用者に見えないものもあり、データに関する従来のチェック・アンド・バランスが機能しにくい。
規制をめぐる議論は大きく前進し、テクノロジー・プラットフォームも、安全性をイノベーションの中心に据える必要性を認めている。この動きはまだ収束する見込みがない。
マイクロソフトの取締役会長兼最高経営責任者サティア・ナデラ氏は、「安全性、信頼、公平性を十分に考慮していないものを誰かが生み出しても、世界はもう受け入れないと思います」と述べた。
適切な規制を実現する
「歴史から得られる最大の教訓は、テクノロジーに畏敬の念を抱きすぎて、制御できない、あるいは人々の暮らしをより良くするために使えないと思い込まないことです。
「だからこそ、政治家には積極的に関与してもらう必要があります」と、ナデラ氏はダボスのセッションで付け加えた。テクノロジーへの理解不足が規制の試みを妨げてきたと認識しての発言だ。セッションはサティア・ナデラ氏との対話と題されていた。
一方、英国の財務相ジェレミー・ハント氏は、提唱したのは、政府が「成長する機会を与える前に、金の卵を産むガチョウを殺さない」よう、「軽い規制」にとどめる方針だった。その能力を十分に把握していないため、慎重な対応が必要だという。また、AIが生成する出力は常に変化するため、規制は難しいという認識も示された。想定されるあらゆる出力を違法とするよう、システムに指示する必要があるからだ。
OpenAIのサム・アルトマン氏はさらに踏み込み、誰が意思決定を行うのかという点に異議を唱えた。
「こうした意思決定をどのように行うかについて、社会の意見を取り入れる方法を見つけるのは、私たちの責任だと思います」と同氏は述べた。「システムの価値観だけでなく、安全性の基準や、ある国で起きたことが別の国に極めて深刻な悪影響を及ぼさないようにするために、どのような国際協調が必要かについてもです」。
AIとテクノロジーが混乱ではなく、善のために働く力となるようにするには、どうすればよいのか。
ラヴィ・アグラワル、フォーリン・ポリシー誌編集長
透明性と包摂性のあるAIシステムの開発をめぐり、業界のリーダー、政府、学術機関、市民社会組織を結集するため、世界経済フォーラムはAIガバナンス・アライアンスを2023年6月に発足させた。この取り組みは、AIガバナンスの未来を形づくり、イノベーションを促進するとともに、倫理的配慮と包摂性を保ちながら、社会の利益のためにAIの可能性を活用することを目指している。
偽情報の発信者に責任を問う
政治家による誤情報の拡散は、AIの悪用に対する規制やその他の防護策では制御できない。政治学者ラスムス・ニールセン氏が最近のフィナンシャル・タイムズ紙の論説で指摘したとおりだ。
明白な例は前米政権時代に現れたが、英国では非営利団体FullFactが、最大50人の国会議員が虚偽の発言をし、それを訂正しなかったと報告した。
こうした行為の結果、数百万人の米国人が2022年に選挙が盗まれたと信じるようになった。問題は、政治家が2024年の選挙でAIを使って、どのように人々を誤解させる可能性があるかだ。
真実を見極めるには、メディアが基本的な役割を果たすことが不可欠だ。これは、誤情報と偽情報の難題を議論した複数のセッションで繰り返し取り上げられたメッセージである。
そのためには、メディアの自由を守り、効果的なファクトチェックを可能にする必要がある。AI製品もその助けとなる可能性がある。欧州委員会の価値・透明性担当副委員長ヴェラ・ヨウロヴァ氏は、法整備に加え、偽情報に関する行動規範を守るという大手テック企業の約束も必要だと提案した。
ヨウロヴァ氏はまた、「意識を高め、社会がうそを信じてしまう受容力を下げること」が、誤情報や偽情報への対策に重要だと考えていた。
フォーラムのデジタル安全のためのグローバル連合は、偽情報への対抗とオンライン上の有害コンテンツへの取り組みについて、社会全体でのアプローチを加速させている。この取り組みは、新たなオンライン安全規制に関するベストプラクティスの共有を促し、デジタルメディア・リテラシーを高めるプログラムでの協力を推進することを目指している。フォーラムの最近の刊行物では、AI時代の責任あるメディアの未来に向けた原則も取り上げ、責任あるAI開発、オープン・イノベーション、国際協力など、行動につながる提言を詳述した。
今年のセッションが示したように、AIは善の力にも、悪意ある力にも、悪意ある行為者の力を増幅させるものにもなり得る。一方で、現在見られる脅威をテクノロジーのせいにすることには慎重になるべきだという意見もあった。その一人、オープン・ソサエティ財団理事長のアレクサンダー・ソロス氏を含め、次のように述べた。
「印刷機の発明以来、テクノロジーは人類への脅威だったと言うのは、責任逃れだと思います。印刷機は、人類文明に関してAIがもたらすどんな変化よりも、はるかに大きな変革をもたらしました」。
