AIが生成したコンテンツは、操作のための強力な手段になりつつある。
ディープフェイクの蔓延は、特に選挙に関して懸念されている。
民主主義に対するAI関連およびサイバーセキュリティの脅威への対抗に関して、世界的な協力が緊急に必要とされている。
スロバキアの直近の選挙に先立つ数日間、偽情報の嵐が巻き起こり、民主的プロセスの根幹そのものに揺さぶりをかけた。音声記録がFacebook上に出現した。その音声は、候補者とメディア関係者の間の会話を捉えたものとされ、票の買収を含め、選挙を操作する計画について話し合っていたとされる。
音声が偽物だとする否定は迅速だったが、既に被害は及んでいた。この事件は、人工知能（AI）が操作のための強力な手段になりつつある、選挙をめぐる脅威の状況の変化を示す、ぞっとさせる証しとなっている。
この事件は、ディープフェイクに対する選挙システムの脆弱性と、事実確認の時間的制約を、影響を与え、迅速かつ低コストで利用する能力を浮き彫りにしている。この問題は一つの選挙や一つの国に限られるものではない。デジタルメディアの相互接続性と、コミュニケーションおよびソーシャルメディアプラットフォームの比較的な均質性のため、悪意ある主体は一国で試行し、すぐに方向転換して、成功した攻撃を世界中の民主的プロセスに拡大することができる。来年の選挙数を見ると、標的の範囲はデジタル時代の幕開け以来最大となっている。
2024年には、40以上の国政選挙が実施され、国々が世界のGDPの50%以上を占める。スロバキアの経験は、世界中で今後行われる選挙にとっての戒めとなる。世界最大の民主主義国である英国、インド、EU、米国はいずれも来年の選挙に向けて準備を進めており、国際社会はスロバキアの教訓に耳を傾けなければならない。AI生成コンテンツの蔓延と、介入の温床となる、ますます広大になるサイバー攻撃の対象領域は、民主主義を守るためのツールの再評価と、新たな脅威に対抗するための世界的協力の緊急な必要性を求めている。
選挙期間中のサイバーセキュリティの脅威の状況は多面的であり、変化し続けている。紙の投票用紙が世界で圧倒的に最も一般的な投票形式である一方、サイバーおよびその他のデジタル脅威は、依然として市民の投票する能力と、選択を行うために用いる情報に影響を及ぼしうる。選挙は、ハッキングやデータ侵害といった従来のサイバーセキュリティ上の懸念から、ディープフェイクやAI生成の偽情報といった、より洗練された形の操作に至るまで、幅広い技術的脅威に対して脆弱である。
脅威行為者は選挙インフラの脆弱性を悪用し、電子投票システムや有権者データベースを標的にする可能性がある。これらの脆弱性を悪化させるのは、攻撃者が攻撃に成功する必要がないという事実である。民主主義は選挙の正統性にその強さを依拠しているため、選挙プロセスの完全性に疑念を生じさせるだけで、社会的結束や結果への支持を損なう可能性が十分にある。
AIにより、利用者は、反社会的で有害な目的に集中している場合であっても、活動の規模、範囲、速度を大幅に高めることができる。フィッシングや偽情報キャンペーンを含むソーシャルエンジニアリングの手法は、既に選挙プロセスの完全性に重大なリスクをもたらしている。現代の選挙における技術の相互接続性は、これらの脅威の潜在的影響を増幅させ、AIツールが情報を処理する速度は、これらの影響を指数関数的に高めている。スロバキアで見られたように、AIを用いた音声記録の操作は、選挙の民主的基盤をデジタルの混乱から守るための包括的な対策の緊急性を示している。
どのようなサイバーリスクが特に選挙に影響を及ぼすか？
• 有権者登録システム：有権者登録データベースの操作や侵害は、有権者の権利の剥奪や不正な登録につながる可能性がある。
• 投票機の脆弱性：電子投票機へのハッキングや改ざんは得票数を操作しうるほか、投票機へのマルウェアやランサムウェア攻撃は投票プロセスを妨害しうる。
• 選挙管理システム：選挙管理システムの操作は、資源の誤配分や結果の不正確な報告につながる可能性がある。
• フィッシングとソーシャルエンジニアリング：選挙管理当局や政党を狙ったフィッシング攻撃は、機密情報を危険にさらしたり、マルウェアを侵入させたりする可能性がある。
AIの悪意ある利用は、これらのリスクをどのように悪化させうるか？
• 誤情報と偽情報：ソーシャルメディアやその他のチャネルを通じて誤情報を広める組織的なキャンペーンは、世論に影響を与え、選挙の完全性に疑念を投げかけ、選挙結果を左右する可能性がある。
• ディープフェイク：偽情報の中でも特殊な形態として、AIが生成したディープフェイク動画や音声記録は、候補者に関する虚偽情報を広めたり、世論を操作したりするために用いられる可能性がある。
• 自動化された偽情報：AIアルゴリズムを用いて大量の偽情報を生成・拡散させることができ、検出と対処をより困難にする。
• ターゲティング広告：個別化された広告を通じて、有権者に対する誤情報や偽情報をAIによりマイクロターゲティングすることは、意見を操作したり、投票率を抑制したりするために用いられうる。
• データプライバシーへの懸念：投票情報が国民IDや居住記録、その他の個人を特定できる情報（PII）と結び付く方法から引き出される場合、自動処理によって、投票資格の判定に無関係な個人データが漏えいする経路が生じる可能性がある。
• ソーシャルメディアのアルゴリズム操作：ソーシャルメディアプラットフォーム上のAIアルゴリズムが操作され、特定の政治的メッセージを増幅したり、他を抑制したりすることで、世論に影響を与える可能性がある。
これらのリスクに対処するため、選挙当局、テクノロジー提供者、政策立案者は、協力して、強固なサイバーセキュリティ対策を実施し、AIシステムの完全性を確保し、選挙プロセスの透明性を促進する必要がある。定期的なセキュリティ監査、公共の啓発キャンペーン、国際協力は、デジタル時代における選挙の保護に不可欠な要素である。
組織はすでにこれらの問題への対処に取り組んでいる。米国のCISAは、選挙を守るためのサイバーセキュリティツールキットを公表しており、これには有権者情報ウェブサイト、電子メールシステム、ネットワークなどの保護に関するガイドが含まれている。同様に、EUでは、欧州委員会がオンライン偽情報への対処に関する支援を提供している。その他多くの国や国際機関も同様のガイドを公表しているが、それで十分なのだろうか？
技術的混乱から選挙を守るためのガイドラインとベストプラクティスは、次の主要テーマを重視している：
予防的なサイバーセキュリティ対策の重要性
選挙を進化するサイバー脅威から守るうえで、予防的なサイバーセキュリティ対策は極めて重要である。潜在的な脆弱性を予測し、悪意ある主体より先んじることで、選挙システムはサイバー攻撃のリスクを大幅に低減できる。これには、継続的な監視、定期的なセキュリティ監査、潜在的な脅威を検知・軽減する先進技術の導入が含まれ、選挙プロセスの完全性が損なわれる前に対処する。予防的なアプローチは、選挙システムが新たなサイバーリスクに対して強化されることを保証し、選挙インフラ全体のレジリエンスに寄与する。
フォーラムが、リーダーによる先端技術と現実世界の課題の結び付けをどのように支援しているか
先端技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集させ、新興技術とその現実世界への影響を理解できるようにしている。
協働と実験を可能にすることで、同センターはパートナーが研究から得られたイノベーションを、世界共通の課題に対処する実用的な応用へと転換する支援をしている。
選挙の完全性を確保するためのリスク限定監査の活用
リスク限定監査は、二つの重要な目標を達成することを意図している。第一に、選挙が想定どおりに実施されること、すなわち選挙技術が設計どおりに機能することである。第二に、市民と選挙監視者が、投票プロセスが適切に機能していることを確信するために必要な情報を持っていなければならない。こうした監査は、急速に変化する技術的およびリスクの状況の中で、信頼性を構築するための有益な仕組みとして機能する。
サイバー脅威と偽情報に対するレジリエンスの構築における教育と訓練の役割
教育と訓練は、特に選挙の文脈において、サイバーレジリエンスの強化に極めて重要な役割を果たす。選挙担当職員、IT担当者、その他の利害関係者に対して、サイバーセキュリティのベストプラクティスに関する包括的な訓練を提供することで、サイバー脅威を特定し、対応し、効果的に軽減するために必要なスキルが身につく。選挙担当職員と一般市民の双方は、ソーシャルエンジニアリングの手法に対する認識、フィッシング防止、ディープフェイクやその他のAI生成コンテンツを特定するためのより優れた訓練とシステムを含め、メディアおよび情報リテラシーの向上からも恩恵を受けるだろう。情報に精通し訓練を受けた人材は、サイバー脅威の複雑な状況をより適切に乗り越えることができ、それによって選挙システム全体のレジリエンスが強化される。
政府機関、サイバーセキュリティの専門家、一般市民の協力
選挙プロセスにおいて強固なサイバーレジリエンスを構築するには、協力が不可欠である。政府機関、サイバーセキュリティの専門家、一般市民は、情報、専門知識、資源を共有するために協力しなければならない。政府機関はサイバーセキュリティ基準を実施・執行でき、一方でサイバーセキュリティの専門家は、新たな脅威を特定し対処するための専門知識を提供する。啓発キャンペーンを通じて一般市民を巻き込むことは、共同の責任感を育み、個人が安全なオンライン上の慣行を採用するよう促す。協働的なアプローチは、多面的な防御戦略を確保し、多様なサイバー脅威に対する選挙システム全体のレジリエンスを強化する。
スロバキアの選挙の余波に世界が取り組む中、一つだけ明らかなことがある。選挙とサイバーセキュリティの交差点は、かつてなく危険になっているということだ。AIを用いる悪意ある主体は手強い敵として台頭しており、ファクトチェッカーの従来のツールに挑戦し、ソーシャルメディアのポリシーの脆弱性を悪用している。国際社会は、AI主導の偽情報に直面する中で、選挙の完全性を守るために、迅速に行動し、強固な戦略とツールを開発しなければならない。選挙の安全確保をめぐる闘いは新たな時代に入り、世界はその課題に応えなければならない。
