今月初め、研究者らはAI駆動型マルウェアを開発しました。このマルウェアは、病院のCT画像をハッキングし、偽のがん画像を生成して、最も熟練した医師さえ欺くことができます。今日の病院ネットワークに侵入すれば、健康な人が存在しない腫瘍のために放射線治療や化学療法を受ける一方、早期がん患者が誤診されて帰宅させられる可能性があります。がん、血栓、脳病変、ウイルスの治療に関する現在の医療情報も、操作、改ざん、破壊されかねません。これは、データを欺く目的で操作する「データ汚染」が、最も重要なインフラにリスクをもたらす一例にすぎません。AIが他の技術と融合して新たな急速に進展する脅威を生み出す仕組みについて共通認識がなければ、病院への受診にとどまらず、さらに多くのことが悪夢と化しかねません。
政策立案者は技術者と協力し、AIと他のデュアルユース技術や重要情報システムとの組み合わせから生じるセキュリティリスクへの理解を深める必要があります。そうしなければ、自動化された新たなデータ汚染やサイバー攻撃による大規模な経済的・社会的損害に備えなければなりません。AIをめぐるサイバー紛争が増える時代に、多国間ガバナンス体制はかつてないほど必要とされています。
データ攻撃は21世紀の核兵器です。領土を誰が支配するかよりもはるかに重要なのは、データを支配する者が人々の心を操る力を持つということです。AI駆動型アルゴリズムはデータを汚染し、信念、態度、診断、意思決定に影響を与え、日常生活にますます直接的な影響を及ぼす可能性があります。データ汚染は、社会の仕組みに欺瞞と不信を広げようとする者にとって、新しく極めて強力な手段です。
AIと他の技術との融合によってリスクは増幅されます。データ汚染は近い将来、国全体のゲノムデータベースに侵入し、さらには生物学研究を兵器化し、原子力施設、製造サプライチェーン、金融取引戦略、政治的言説を標的にする可能性があります。残念ながら、こうした分野の大半は縦割りで統治されており、新技術の融合が世界規模でシステム全体のリスクを生む可能性について、十分な理解がありません。私は、新たな報告書『収斂するリスクの新たな地政学：AI時代における国連と予防』で、相互に関連するこうしたリスクを検討し、新興技術が今後どのように展開しうるかを示すシナリオを提示するとともに、AIの融合が引き起こす大規模危機を防ぐための多国間体制の進むべき道を提案します。
収斂するリスク：データ汚染、ドローン群、自動化バイオラボ
想定されるシナリオは次のとおりです。
1. データ汚染：病院のCT画像を偽造するのと同様に、悪意ある攻撃者は機械学習アルゴリズムを使い、自動化されたバイオテクノロジーのサプライチェーンにデータ汚染攻撃を仕掛ける可能性があります。バイオ実験がますますAIソフトウェアによって実施されるなか、マルウェアが設計指示を改ざんし、抗生物質、ワクチン、高価な細胞治療薬の重要な備蓄を汚染する恐れがあります。
2. 遺伝子工学：クラウドラボを使えば、コンピューターの前に座ったまま、世界のどこからでも最大50種類のバイオ実験を操作できます。ハッカーはこうした自動化ワークフローを利用して、大腸菌の遺伝的構成を改変し、多剤耐性の生物兵器に変える可能性があります。
3. 運搬：次の段階として、ハッカーは市販のドローンを利用し、エアロゾルを搭載して、多剤耐性菌を水道システム内や農場に散布する可能性があります。農家はすでに作物への殺虫剤散布にドローンを使っています。
4. 偽情報：最後に、ハッカーは汚染された抗生物質に関する警告メッセージをソーシャルメディアに大量に流し、被害を受けた人々の間に恐怖と混乱を広げる可能性があります。
データ汚染、バイオ製造の兵器化、戦略情報の操作が組み合わされれば、経済に甚大な損害を与え、人々に死者をもたらしかねません。社会のウェルビーイングにも大きな影響を及ぼすでしょう。しかし、最も深刻な影響は市民の信頼に及びます。政府機関、緊急時のデータシステム、産業研究所、食料サプライチェーン、病院、重要インフラに対する信頼です。
AIをめぐるサイバー紛争：脆弱な国家と人々
新たな形の秘密裏のデータ汚染攻撃は、バイオセーフティやバイオセキュリティの範囲をはるかに超えます。さまざまな主体が世論に影響を与え、政治、金融、重要機関を不安定化させる能力は、平和と安全に強力かつ長期的な影響を及ぼす可能性があります。
国家主体も非国家主体も、民族や宗教の集団を標的にした高品質の偽造コンテンツをすでに作成し、暴力や差別をあおることができます。ミャンマーでは、国連の報告書が、フェイスブックの投稿がロヒンギャのイスラム教徒に向けられた猛烈なヘイトスピーチを助長したと確認しました。2018年夏のインド各地では、フェイスブックやWhatsAppを含むソーシャルメディア上の扇動的なメッセージが、特定の集団を子どもの誘拐犯として描きました。この集団的パニックにより30人以上が死亡し、多くの人が負傷しました。現実と欺瞞の境界が曖昧になるにつれ、偽の言説をめぐって人々、資源、武器が大規模に動員される可能性が高まっています。
データ操作がサイバーセキュリティと人間の安全保障にもたらす影響は深刻です。ハイブリッド脅威の状況が広がるとともに、攻撃対象領域も拡大しています。すべての国が標的になりえますが、技術・サイバーインフラが貧弱で脆弱、かつ時代遅れの国はとりわけ危険にさらされています。
脆弱な国家はデータ汚染攻撃を防ぎ、影響を抑えることができないため、サイバー傭兵、テロ集団などの活動拠点となり、データの完全性やグローバル化した情報システムの堅牢性をますます損なう恐れがあります。デジタル格差とサイバーセキュリティ格差の拡大によって、不平等と不安定さを特徴とする新たな地政学が生まれる可能性があります。こうした課題に対応するには、予防に向けた共通の取り組みを促す仕組みのもと、国際社会全体で新たな安全保障リスクへの共通認識を築く必要があります。
戦略的先見の必要性
こうした深刻なシナリオは、AIの融合がもたらす種類のグローバルリスクを見据え、戦略的先見力を集団で育む必要性を示しています。過去1年間、私は
国連大学政策研究センターと協力してこの取り組みに着手し、国連がより優れた先見能力を備えられるよう支援してきました。企業や政府のリーダーは、技術分野を横断する統合的な先見分析を実施し、データ操作を利用して重要インフラを狙う可能性のある新たな脅威を予測し、軽減すべきです。たとえば、データセンター（医療データベースや銀行など）やクラウド環境（クラウド型バイオラボなど）が、データ汚染やその他の敵対的サイバー攻撃に対して極めて脆弱であることは、すでに分かっています。先見の取り組みには、グローバルサウスの国々との協力を必ず含めるべきです。
ワクチンや遺伝子治療の安全性に関するデータ操作から、金融機関の健全性をめぐる偽情報キャンペーンまで、AIをめぐるサイバー紛争の攻撃対象領域は広く複雑です。政府は民間部門と協力し、データ偽造や標的型プロパガンダの発信源を検知・分析する、より効率的な早期警戒システムを構築する必要があります。各国は、こうした新たな欺瞞の手段が公共の言説や世論にどう影響するかを継続的に把握しなければなりません。また、幅広い人々のサイバーセキュリティと（バイオ）技術に関するリテラシーを高める必要があります。
こうした新技術がもたらす広範な脅威に対して、一国や二国間で解決する方法はないと確信しています。新たなグローバル安全保障リスクを理解する能力は、集団で育まなければなりません。さもなければ、リスクに侵食される恐れがあります。
AIをめぐるサイバー攻撃と新たな脅威
