AIは医療データセットの改ざんを自動化でき、保健およびバイオテクノロジー産業全体にわたるサイバー攻撃の影響を拡大させ得る。
サイバーおよびバイオセキュリティの脅威は、テクノロジーに対する信頼を損なう恐れがある。
テクノロジーに対する信頼の喪失は、いつであっても危険だが、COVID-19のような世界的パンデミックの最中には特に危険である。
CT肺スキャンには、COVID-19による深刻な所見と、サイトカインストームと呼ばれる炎症反応の兆候が示されていた。しかし、そのCTスキャンが誤っていたとしたらどうだろうか。
これは一時的な懸念にとどまらない。2018年には、悪意ある攻撃が次のことを行うよう設計された：病院のCTスキャンをハッキングする。これにより、患者固有の解剖学的構造に適合する偽の肺腫瘍が生成され、誤診率は90%を超えた。さらに、ハーバード大学の研究者らは、敵対的攻撃を、皮膚がん画像の診断に用いられるアルゴリズムに対して試験した。その結果、そうした攻撃は、元の生検画像のわずか数ピクセルを変更するだけで診断を誤らせられることが示された。
これらの事例は、AIが医療データセットの改ざんを自動化し、保健およびバイオテクノロジー産業全体にわたるサイバー攻撃の影響を拡大させ得ることを示すほんの一例にすぎない。こうした攻撃は、パンデミックの脅威が強力な軍民両用技術の兵器化と交差する、ハイブリッドなセキュリティリスクの時代に存在している。有益な目的のために開発された軍民両用技術は、本質的に害を及ぼす可能性もあり、その害は「意図しない害」としての偶発的なものか、あるいは意図的な悪意の結果として生じ得る。サイバーおよびバイオセキュリティの脅威が交差することで、世界的な保健危機において、COVID-19のような複雑なウイルスについて、身体のデジタル画像が何を示しているのか、また私たちがどれほど速く病原体を分析できるかについて、信頼する能力が低下する。これは、将来の危機が自然発生によるものであれ人為的なものであれ、同様である。
世界経済フォーラムは、新型コロナウイルスの流行に対して何を行っているのか。
こうした交差するセキュリティリスクは、すべての国にとって有害な影響をもたらすが、特に、医療、バイオテクノロジー、サイバーインフラが劣悪で時代遅れである国、あるいはパンデミックや技術的脅威の兵器化から脆弱な人々を守る能力を持たない国にとって深刻である。
システミックな危機の最も大きな影響を受ける人々を守るため、各国は事後対応型から事前対応型の対策へと移行し、そのような脅威を特定し防ぐためのグローバルな予防プラットフォームを構築する必要がある。
グローバルな予防プラットフォームは、次の3つの主要な課題に取り組むことができる：
1。サイバー、バイオおよび人間の安全保障の脆弱性の高まり
世界的な公衆衛生危機は、軍民両用技術が不安定性を高めるために利用され得る、極度に脆弱な状況を生み出す。国連事務総長が安全保障理事会への演説で言及したように、「パンデミック時に露呈した脆弱性と準備不足は、生物テロ攻撃がどのように展開し得るか、そしてそのリスクを高め得るかを示している。非国家主体が、世界中の社会に同様の壊滅的被害をもたらし得る強毒性株にアクセスする可能性がある。」
現在のパンデミックは、国家およびテロ組織に対して、緊急事態における社会の強みと弱みをリアルタイムで垣間見る機会を与えている。過去数か月間に、生物学的脅威が病院や食料供給網を機能不全に陥らせ、市民の重要な情報や公共機関への信頼を打ち砕き、社会不安、偽情報、さらには暴力を引き起こし得ることが示された。。
さらに、悪意ある行為者がクラウドラボにアクセスする能力は、病原体の設計を自動化し、多剤耐性を持つ病原体や、COVID-19に類似した株を再現することを可能にし得る。いずれも、ドローン技術を用いて公共の場で容易に拡散させられる可能性がある。
2. デジタル上の信頼の喪失
新興技術は、相互に収束するにつれ、サイバー、バイオおよび人間の安全保障上の脅威の間で相互依存を拡大させる。COVID-19危機の文脈において、医療施設やバイオテクノロジーの供給網がエネルギー企業、データセンター、情報ネットワークに依存していることは、深刻な脆弱性を生み出している。医療データの改ざんと、バイオ製造へのサイバー攻撃の組み合わせは、経済に甚大な影響を及ぼし、人々に致命的な結果をもたらし得る。しかし、最も長く続く害は市民の信頼に及ぶだろう。すなわち、公衆衛生機関、緊急時のデータシステム、研究所、病院、重要インフラに対する信頼である。
3. 紛争における交差するリスク
紛争の影響を受けている国家は、交差するセキュリティ脅威に直面すると、規模、死亡率、範囲のいずれにおいても前例のない危機に苦しむ。これらの国家は、公衆衛生上の緊急事態において、発生確率は低いが影響の大きい事象への備えが不十分であり、そうした事象が現実化した場合には、より脆弱である。例えば、重要インフラがすでに機能不全に陥っている国では、医療施設や接続された送電網へのサイバー攻撃は壊滅的な影響をもたらし得る。裕福な国々であっても、サイバー犯罪者はCOVID-19危機の最中に病院やデジタルネットワークを標的とし、脆弱な時期にある人々を食い物にするため、ソーシャルエンジニアリングの手法を拡大させてきた。
今後を見据え、次の危機を防ぐ
バイオセキュリティやサイバーセキュリティといった分野における現在の脅威は、縦割りで統治されている。変化をもたらすためには、新たな連携が鍵となる。政府、民間部門、技術分野のリーダーからなるパネルを招集し、統合的な未来予測を、AI、サイバーおよびバイオセキュリティを含む技術分野横断的に実施することができる。大きな影響を伴う生物学的事象と軍民両用技術の収束を理解することを目的として、このグループは予防と緩和に関する共通のアプローチを定義することができる。
未来予測の取り組みには、次との協力を含めるべきである：紛争の影響を受けている国家。紛争予防の専門家は、民間部門のアクターや市民社会と連携し、特定の脅威や脆弱なコミュニティの倫理的ニーズにより適合した予防戦略を策定すべきである。こうした取り組みは、すでに芽生え始めている。例えば、国連およびアラン・チューリング研究所のスタートアップやイノベーターは、AIを用いてクラウドソーシングと新たなセキュリティリスクの予測を行うため、すでに協力している。
このような「包摂的な未来予測」は、各国や機関に対して、リスクの優先順位付けが生じ得るシナリオを描き出すためのツールを提供し得る。特に紛争地域において、また新興技術を予防に活用するための責任あるアプローチを構築する上で有効である。
交差するセキュリティリスクは、平和と人間の幸福に強力で有害な影響を及ぼす。多国間システムは、この前例のない危機から学び、より致命的な結果と兵器化の高い可能性を伴うその再発に備える必要がある。リーダーシップ戦略として用いられる未来予測は、倫理的およびガバナンス上の失敗を回避する助けとなり得る。
