AIシステムが物理世界で作動し始めると、サイバー上の障害は、人命の安全、業務、そして信頼に直接影響を及ぼしうる物理的な障害となります。
その結果としてサイバーセキュリティにかかるリスクが高まる中、私たちは、自律性と能力の拡大を、それらを支える安全性の基盤の拡充よりも速いペースで進めています。
物理AIの普及は、設計段階からセキュリティを組み込んだシステム、標準の調和、そして安全性とレジリエンスへの投資の拡大にかかっています。
物理AIにより、ロボットや自動運転車などの自律システムが現実世界を認識し、行動できるようになります。ハードウェアの「身体」が環境と相互作用する際に収集される知能のみに焦点を当てる身体性AIとは異なり、物理AIは、ロボット、ロボットアーム、ドローン、自動運転車など、さまざまな物理的な「身体」をより知的に制御するために、ソフトウェアの「頭脳」を可能にする、より広範な全体的枠組みです。この分野はまだ新しく、標準化された名称や成熟した技術スタックを欠いていますが、多くの人々はこれがAI開発の次の段階を表すと考えています。
研究者の間では、汎用型の物理AIシステムが、構造化された産業環境に限られるのではなく、複数の分野で商業的に実用化される日が近づいているとの見方が広がっています。こうした期待をさらに高めるように、モルガン・スタンレーのアナリストは、人型ロボット市場が次の規模まで成長すると予測しています。2050年までに5兆ドルに達する。この融合が成熟するにつれ、従来のサイバー脅威に加えて、現実世界における新たな種類の影響がもたらされます。当初から基盤となる信頼、安全性、セキュリティが組み込まれていなければ、この成長の可能性を牽引する自律性そのものが、最大の脆弱性となります。
物理AIはなぜゲームチェンジャーなのでしょうか？
サイバーセキュリティは、従来、明確で限定的な範囲内でデジタル資産を保護することに重点を置いてきました。デジタル攻撃が重要インフラや医療分野で現実世界への影響をもたらすようになるにつれ、この考え方は根本的な転換を迎えつつあります。サイバーセキュリティへの多大な投資にもかかわらず、サイバー攻撃の頻度と巧妙さは増し続けています。
AIは、自動運転車、ロボット物流プラットフォーム、外科手術器具、重要インフラなど、物理システムへの組み込みが進んでいます。サイバーセキュリティコミュニティが長年その低減に取り組んできた脆弱性は、人命の安全に直接関わる物理的な側面を帯びつつあります。コードと物理的な動作の間のギャップを埋めることで、物理AIは従来のサイバー攻撃を、人命に関わる直接的な安全リスクへと変換しています。
事例1：自動運転車の制御ロジックへの攻撃
自動運転車は特に示唆に富む事例です。現代の自動車は、すでに内部ネットワークを介して通信する数十の電子制御ユニットに依存しており、研究者らは、ブレーキ、ステアリング、加速の各サブシステムへの遠隔アクセスが実現可能であることを繰り返し実証してきました。
物理AIは、この脆弱性をさらに大きく拡大させます。完全または部分的に自律走行する車両では、認識、計画、作動からなる運用ループ全体がソフトウェアによって媒介されています。このチェーンのどの段階で侵害が生じても、高速道路の速度で走行する、予測不能な数トンの機械が生み出されることになります。たとえば、制御ロジックをひそかに反転させる攻撃が想定できます。車両は加速するはずが、代わりに減速してしまうのです。低速であれば、こうした反転は混乱を招く程度です。しかし、高速で、交通量が多い状況では、壊滅的な被害が生じる可能性が大きくなります。
事例2：サプライチェーンの混乱
サプライチェーンの完全性への影響は、これとは異なります。物理AIシステムは、仕分け、梱包、配送業務にますます導入されています。侵害された倉庫ロボットは、商品のラベルを誤って貼ったり、出荷先を変更したり、汚染された商品を配送ラインに混入させたりする可能性があります。ある医薬品の出荷施設を考えてみましょう。AIによるラベル貼付・ピッキングシステムがひそかに再プログラムされ、検知されるまでの間に、正しくラベルが貼られた容器に誤った医薬品が産業規模で詰められてしまうといった事態です。その後の影響には、患者への有害な結果や公衆衛生上の緊急事態などが含まれ、従来のデータ侵害に伴うものとは質的に異なり、はるかに深刻です。
事例3：知覚システムへの攻撃
リスクのもう一つの例は、知覚システムへの完全性攻撃に関するものです。物理AIは、カメラ、ライダー、レーダーなどのセンサーアレイに依存して世界を解釈しています。しかし、交通標識に視覚的な「摂動」を加えるといった敵対的な改ざんにより、停止標識を制限速度標識と誤認させるなど、これらのシステムを欺くことが可能です。道路以外にも、この脆弱性は空港の警備、農業、産業検査にも及び、操作されたセンサーデータによってAIが歪んだ現実に基づいて行動してしまうことがあります。
物理AIのガバナンスの欠如
よくあることですが、イノベーションがそれを統制するための世界標準を上回るスピードで進んでおり、その結果、デジタルセキュリティと物理的安全性の標準の状況が断片化しています。
現在、物理AIシステムは、自動車、産業制御、医療機器、分野横断的なAIガバナンスの枠組みにわたる30以上の安全性およびサイバーセキュリティ標準の寄せ集めによって統制されています。その多くは予測可能な非AIシステム向けに設計されており、進化する技術の「ブラックボックス」的な性質に対応するのに苦労しています。また、メーカーは複数のコンプライアンス上の課題にも直面しています。EU AI法やEU機械規則のように、要件が重複しており、共通の技術的指針を欠いていることが多い規制を遵守しなければならないためです。
このギャップを埋めるためには、物理AIは、静的で事後対応型のガバナンスから、より協調的な「ランタイム」モデルへと移行する必要があります。セキュリティは、AIによる意思決定とは独立して機能する、ハードウェアによる強制的な制限や機械的なオーバーライドを活用しつつ、シリコンからソフトウェアに至るまで、アーキテクチャのレベルで統合されなければなりません。規制当局は、敵対的な耐性を基本要件として義務付けるために標準を調和させる必要があります。さらに組織は、現実世界における物理的な影響を考慮した、継続的な監視とストレステストを取り入れなければなりません。
物理AIは、より安全な道路、より効率的な工場、より良いケアといった多大な恩恵をもたらすことが期待されています。これらの期待はいずれも、システムが意図どおりに機能するという前提に依存しています。その前提を破ることができるサイバー攻撃者は、その約束をも破るのです。
フォーラムが、リーダーのサイバーリスクの理解とデジタルレジリエンスの強化をどのように支援しているか
サイバーセキュリティセンターは、進化するサイバーリスクとその体系的な影響を理解するために、リーダーが集う信頼できるプラットフォームを提供しています。相互につながりを深める デジタル社会における理解と信頼の構築に注力しています。
セクターを越えた協力と知見の共有を可能にすることで、センターはパートナーがサイバーレジリエンスを強化し、集団的な対応を必要とする課題に取り組めるよう支援しています。
現在の資金配分は、リスクの規模を反映していません。投資は知的システムの構築に向かっていますが、それらが安全で、レジリエントで、安全であることを確保するための投資は比例していません。
これを正しく行うための時間は限られています。物理AIが広く導入される前に、それを信頼できるものにするセキュリティの基盤と、市場の予測される成長を実現する信頼のアーキテクチャが必要です。人命の安全は、後から組み込むことはできません。それは前提条件であり、サイバーセキュリティと、公共財としての安全性に対する共同責任です。
