AIは間もなく飛行中に意思決定を行う機会が増えるだろう。そうなると、機械はどれほどの権限を持つべきかという根本的な問題が浮上する。
高度な航空モビリティを実現するには、誰が利益を得るのか、誰がリスクを負うのか、そして自動化された意思決定が損害を引き起こした場合に誰が責任を負うのかについて、明確なルールが必要となる。
航空業界の次の段階では、インテリジェントマシンの認証にとどまらず、これらのシステムが運用される権限の枠組みを明確に定める必要がある。
エアタクシーは、操縦士が搭乗してあらゆる運航上の決定を下したり監督したりすることなく運航する最初の旅客機の一つとなるかもしれない。しかし、こうした先進的な航空モビリティ（AAM）機がルートを計算できたとしても、飛行中に状況が変わった場合に、どのようにして新たなルートを選択する権限を持つのだろうか？
航空業界では、重要な決定は人間が行い、機械がそれを実行するのを支援するという前提が長らく存在してきた。米国連邦航空局（FAA）がAAMと表現する 高度に自動化された電気自動車 垂直離着陸が可能であるという考えは、変わりつつある。
もちろん、現代の航空機はすでに自動化システムに依存しているが、次世代ドローンや高度な航空モビリティ向けに設計された電動垂直離着陸機（eVTOL）はさらに進化している。これらの機体はソフトウェアを用いて状況を解釈し、リスクを特定し、意思決定を行うことができる。
しかし、航空機は個々の機械として動作するものの、航空はシステムとして成り立っています。例えば、密集した都市部の上空を飛行中の自律型エアタクシーが、雷雨のために予定ルートを飛行できなくなったと想像してみてください。通信状況が悪化し、別の航空機が同じ空域に入ってきたらどうなるでしょうか？次に航空機が取るべき行動を決定する権限は、機内AI、遠隔操作者、それとも航空管制官の誰にあるのでしょうか？
航空業界はインテリジェントマシンの認証方法を模索しているものの、どの程度の権限を与えるべきかについてはまだ決定を下せていない。人工知能（AI）航空システムが、変化する空中の状況に対して数秒以内に複数の対応策を計算しなければならない場合、「最も安全」とは一体何を意味するのかを誰が判断するのだろうか？
航空分野におけるAI：「人間が関与するシステム」
先進的な航空モビリティが構想段階から規制準備段階へと移行するにつれ、この問題はますます喫緊の課題となっている。
2024年10月、米国FAAは 最終規則 動力離着陸機（垂直離着陸が可能で、飛行機のように前進飛行できる乗り物）を対象としています。また、8つのパートナーを選定しました。 eVTOL統合パイロットプログラム同機関は、eVTOL機が従来の航空機と空域や空港施設をどのように共有できるかを検証するために、人間参加型シミュレーションを使用している。
航空規制は長らく、機長、AIシステムオペレーター、航空管制官、航空機メーカー、規制当局といった人間の役割を中心に構築されてきた。AIは、あらかじめ決められた指示を単に実行するだけではなく、飛行中に状況が変化すれば、相反するリスクを評価し、複数の行動の中から最適なものを選択する必要が生じるため、この仕組みを複雑化させる。
この変化を適切に管理するためには、航空業界はAIシステムが技術的に可能かどうかをテストするだけでは不十分だ。以下の5つのガバナンス条件に注意を払う必要がある。
権限とは、システムが特定の決定を下すことが法的にも運用上も許可されているかどうかを指す。
保証とは、定義された領域内におけるパフォーマンスに対する信頼を裏付ける証拠を検証することです。
監査可能性とは、意思決定、その入力情報、および引き継ぎが後から再現可能かどうかを問うものである。
適応性とは、天候、データ品質、ソフトウェアの動作、またはサービスの可用性が変化した場合でも、元の許可が有効であり続けるかどうかを検証するものです。
責任体制とは、AI航空システムが作動した際に、個人または組織が説明、修正、対応できる立場にあることを保証するものです。
これは提案されたガバナンスの枠組みであり、既存の国際的なルールブックではありません。そして、これらの階層構造は、システムが権限を与えられていなくても意思決定を行うことができる場合と、個人が形式的には責任を負っていても、結果をコントロールするための時間、情報、または技術的手段を持ち合わせていない場合があるという、重要な違いを明らかにしています。
意思決定能力と意思決定権は同じではない。
この区別が重要なのは、AIシステムの意思決定ロジックが、開発者、製造業者、運用者、規制当局による選択を反映しているためです。誰が優先順位を定め、誰が承認し、誰が変更権限を持っていたのかを知ることが重要です。指定された人物は、AIシステムの意思決定プロセスの結果に影響を与えるために必要な情報、能力、時間、そして技術的手段を備えている必要があります。
AIの意思決定ロジックを統制する
もちろん、AIによるすべての決定を手動で承認する必要はありません。それでは自動化の意義が損なわれ、安全上のリスクが生じる可能性があります。規制当局と事業者は、自動化可能な決定、人間の確認が必要な決定、そして自律的に実行でき、後で検証可能な緊急時の決定など、委任権限のレベルを段階的に定義すべきです。
これは、AI航空システムが、受信した情報、検討した代替案、特定の行動方針を選択した理由など、重要な飛行決定事項を記録する必要があることを意味する。運航者、機内システム、デジタルサービス間の引き継ぎは、目に見えない技術的な移行ではなく、管理されたイベントとして扱われるべきである。
そして、この責任は意思決定の連鎖に沿って及ぶべきであり、単に操縦席にとどまるべきではない。その連鎖には、システムの目的を定義した設計者、それを統合した製造業者、それを展開した運用者、運用を承認した規制当局、そして介入が期待されていた人間の監督者が含まれる可能性がある。アルゴリズムの存在が責任の空白を生み出すべきではない。
国際的な連携も不可欠となる。航空機、運航会社、ソフトウェア、データはますます国境を越えるようになり、航空安全は共通の基準に依存している。国際民間航空機関（ICAO）は、 イノベーションには タイムリーなグローバル政策と基準、そして国家、産業界、学術界間の協力。 世界航空航法計画 グローバル、地域、国家レベルのアプローチを整合させるためのモデルを提供する。
AI時代の航空業界
したがって、航空業界の次の段階では、インテリジェントマシンの認証にとどまらず、それらが運用される権限の範囲を明確に定める必要がある。規制当局は、委任可能な決定事項を具体的に定めるべきである。AI航空システムの運用者は、検証可能な人的責任の連鎖を維持すべきである。製造業者は、AI関連の重要な決定事項を追跡可能かつ検証可能なものにすべきである。
これは航空業界だけの問題ではありません。AIを活用した航空によって影響を受ける社会全体、つまり乗客、航空関係者、飛行経路直下に住む人々など、あらゆる人々が、誰が利益を得るのか、誰がリスクを負うのか、そして自動化された意思決定によって被害が生じた場合に誰が責任を負うべきなのかを決定すべきです。ソフトウェアが人間に助言する段階から、物理世界に対する権限委譲を行使する段階へと移行するにつれ、航空業界は社会がAIをどのように統治できるかを早期に検証する場となる可能性があります。
飛行の未来は、機械がどのような判断を下せるかだけでなく、誰がその権限を機械に与えるか、そして誰がその結果に対して責任を負うかにも左右されるだろう。
