ドローン、自動運転車、ヒューマノイドロボットなど、新世代の自律型AIシステムは、世界を認識し、意思決定を行い、それに基づいて行動することができる。
これは、ソフトウェアリスクと物理的リスク、そしてサイバーセキュリティと安全性の間の従来の境界を曖昧にするものです。
サイバーセキュリティと物理的自律型AIの分野は融合しつつあり、この技術のための適切なガバナンス基盤を構築することが重要です。
人工知能（AI）の歴史のほとんどにおいて、AIは画面の中に存在してきた。AIは推奨、予測、翻訳、生成を行ってきた。AIの間違いは 高価、 時々 深刻なしかし、それらは主にデジタル領域にとどまっている。
しかし、状況は変わりつつある。
新世代のシステムは、AIを現実世界に持ち込もうとしている。これらのシステムは、情報を処理するだけでなく、現実世界を認識し、意思決定を行い、行動する。
人型ロボット、自律走行車、ドローンは、現在試験段階から実用化へと移行している事例の3つである。こうした移行に伴い、かつては明確だったソフトウェアリスクと物理的リスク、サイバーセキュリティと安全性といった境界線が曖昧になりつつある。
物理的に自律的なAIにとって、決定的な変化は、知覚、意思決定、そしてアクチュエーションの融合です。アクチュエーションとは、AIモデルからのデジタル的な決定や信号が、物理的またはデジタル的な動作に変換されることを意味します。これにより、自律性は社会的に価値あるものとなります。しかし同時に、エラー、攻撃、あるいは不明確な目標設定が、人間が気づき、理解し、介入する前に、物理世界に拡散してしまう可能性も意味します。
サイバーセキュリティと物理的に自律的なAIの分野が融合するにつれ、この新世代のシステムを適切に管理するための基盤を構築する時が来たと言えるでしょう。
具現化されたAI：ヒューマノイドロボットの活用
人型ロボットはもはやSFの世界の話ではない。非構造化環境で物理的な作業（ピッキング、組み立て、持ち上げ、移動など）を実行できるシステムが、物流倉庫や工場の現場で稼働し始めており、初期の試験運用では介護施設でも活用されている。
BMWグループのスパルタンバーグ工場では、 図02 人型ロボット 板金部品を扱う肉体的に負荷の高い作業を含む、実際の生産環境でテストが行われてきました。このようにして、具現化されたAIがデモンストレーションから運用実験へと移行する際、その価値は知能だけでなく、自律システムが物理的な作業環境において安全かつ確実に、そして責任を持って動作できるかどうかにかかっています。
しかし、人型ロボットの能力が高まるにつれ、その影響も大きくなる。患者を持ち上げたり、機械を操作したりできるロボットは、ソフトウェアのバグや脆弱性といった問題を超えた、新たな種類の安全上のリスクをもたらす。
人型ロボットが管理された環境を超えて普及する前に、政府や企業は、試験、認証、説明責任に関するより明確な枠組みを必要としている。
自動運転車：実際の導入と新たな依存関係
自動運転による道路輸送は、この新世代AIシステムの中で最も商業的に進んでいる分野です。ロボットタクシーサービスはすでに複数の都市で運用されており、自動運転トラックも一部の高速道路で試験運用されています。短期的なメリットとしては、特定のルートにおける安全記録の向上、長距離貨物輸送コストの削減、運行時間の延長などが挙げられます。
Waymoは、 試験運用からサービスへの移行 この分野では、同社の自動運転配車サービス事業は、フェニックスとサンフランシスコでのUberとの提携による初期展開から、米国内の複数の市場に拡大している。
しかし、大規模な展開は、これまで存在しなかった依存関係を生み出す。自動運転車は、継続的な接続性、高精細な地図作成、遠隔監視インフラ、無線によるソフトウェアアップデートに依存しているが、これらはそれぞれ潜在的な障害点または干渉源となり得る。また、自動運転車と人間が運転する車両が道路を共有する混在交通環境における協調リスクについても、まだ十分に理解されていない。
こうした状況に対処するには、強靭で安全なAIインフラストラクチャが不可欠です。
ドローン：急速な普及とガバナンスの遅れ
無人航空システム、いわゆるドローンは、配送、農業、検査、緊急サービスなど、幅広い分野で既に大規模に運用されている。紛争地帯や国境地域では、軍用および商用ドローンによって、かつては厳しく規制されていた空域が、非国家主体を含む、はるかに多様な主体にとってアクセス可能な空間となっていることが実証されている。
民間人の成功例もある。ルワンダでは、ドローンによる血液製剤の配送が 配送時間の短縮 道路輸送の推定値と比較し、医療施設における製品の有効期限を短縮した。
ここでのガバナンス上の課題は深刻だ。空域管理の枠組みは、多数の自律型エージェントが同時に稼働することを想定して設計されていない。また、精密農業を可能にする技術は、監視や標的型妨害にも利用され得る。ドローンシステムの妨害、なりすまし、ハイジャックは、理論上の懸念事項から、実際に発生した事例へと変化している。
セキュリティと安全はもはや切り離せない
これら3つのユースケースは、それぞれ異なる速度で進展しており、関わる業界、規制当局、リスクプロファイルも異なります。しかし、サイバーセキュリティコミュニティも自律型AIシステムコミュニティも単独では解決できない共通の疑問を提起しています。
AIシステムが物理世界で活動できるようになると、サイバー攻撃は直接的に物理的な被害につながる可能性がある。例えば、車両が侵害されたり、ドローンが操作されたり、ロボットが安全区域外で動作したりといった事態が考えられる。
自律型AIシステムにおいては、セキュリティと安全性は設計、規格、調達、ガバナンスのあらゆる段階に組み込まれなければならない。
自律型AIをスケールアップする前に尋ねるべきこと
ビジネスリーダーにとって最初の疑問は、自律性の境界が十分に明確に定義されているかどうかである。自律的な物理システムにとって、安全性とは、コンポーネントが設計どおりに動作することを意味するだけでなく、システムが設計どおりに動作しない領域を把握することも意味する。
第二に、システムがより自律的になったとき、人間の責任はどこにあるのか。物理的なAIにおいては、人間が「ループの中にいる」と言うだけでは不十分だ。リーダーは、自律システムが限界に達したときに、その人間が介入するための時間、情報、権限、そしてスキルを持っているかどうかを問う必要がある。
第三に、敵対的な状況下における安全性の根拠は何か。安全性の保証は、通常の運用のみに基づくものでなければならない。また、自律型AIシステムが攻撃を受けたり、混乱したり、接続が切断されたりした場合に、どのように障害が発生し、復旧し、報告するかについても考慮する必要がある。
これらの質問に答えることで、リーダーは自律型AIを拡張するための実践的なガバナンスガイドラインを作成するのに役立つはずだ。
今、何をすべきか
これらの技術がもたらす価値は紛れもなく、導入を促進する競争圧力は今後も衰えることはないでしょう。導入のペースに合わせて準備を進める必要があります。
政府にとってこれは、車両に運転手がいて、空域における自動運転者の数が限られており、物理システムがネットワークに接続されていない世界を想定して設計された規制枠組みを更新することを意味する。
企業にとって、これはサイバーセキュリティを、物理世界で動作するあらゆるシステムの中核的なエンジニアリング要件として捉えることを意味する。つまり、最後に付け加えるコンプライアンス層として扱うべきではないということだ。
国際機関にとって、それは現在並行して活動している安全規制当局、サイバーセキュリティ機関、標準化団体間の連携体制を構築することを意味する。
自律型AIシステムは既に現実世界に進出している。これらのシステムが重要なインフラや日常生活に深く組み込まれる前に、適切な環境を整える必要がある。
