AIには規制が必要だが、実際に何を意味するのかについては見解が分かれている。
厳格な規制と重要な安全手順を備える航空業界は、貴重な手本となり得る。
テクノロジー業界が同様の方針を採用し、学び合う文化を築けば、将来のAI関連の惨事を防げる可能性がある。
近年報じられた、顔認識に基づく不当逮捕や、仮想空間でのセクシュアルハラスメントに関するニュースは、AIやその他の新興技術による有害な影響から人々を守るため、さらなる取り組みが必要であることを浮き彫りにしている。今日では、AI業界により多くの規制が必要だという点で大方の意見が一致しているが、どのような変更が必要かについては、まだ合意にほど遠い。テクノロジー企業、ロビイスト、政府当局者がそれぞれ異なるAI規制の構想を推し進めるなか、すでに適切な規制が整い、安全が特に重視されている業界、すなわち航空業界に手本を求めよう。
AI業界を安全が特に重視される業界と捉えるべき時が来ている。リスクの高いこの業界で、人々を危害から守りながらAIイノベーションの安定と発展を可能にするには、どのような変更ができるだろうか。立法者やAI開発者は空を見上げ、航空業界から学ぶことができる。
航空業界から学ぶ：AI改革
航空業界は数十年をかけて、高いストレスがかかる状況でのコミュニケーションとチームワークを向上させる規制、標準業務手順、免許や資格、訓練プログラムを整備してきた。残念ながら、こうした革新の多くは、壊滅的な事故や人命が失われる悲劇を受けて生まれた。また航空業界は、ミスから学び、助けを求め、フィードバックに耳を傾ける文化を育むことで、高いリスクに対処してきた。
同様の改革を実施し、同じような文化を築くことで、AIの安全性を高められる。失敗やミスについて役立つ情報を共有するのが当たり前となる、責任あるAIの文化である。新たなAI災害に不意を突かれるのを待つのではなく、今こそ過去の災害から学び、次の3つの改革を実施する機会がある。包括的な訓練プログラム、規制と標準化、そして安全情報を共有する文化だ。
1. 包括的な訓練プログラム
デンバー発の1978年の商業便で、コックピット内の意思疎通が途絶え、燃料が少なくなっていることを乗務員がパイロットに伝えなかった。最終的に機体は燃料切れとなり、ポートランド郊外に墜落して10人が死亡した。当時の航空業界には、緊急時に乗務員全員が十分に発言できるようにする仕組みがまだ確立されていなかった。
この事故と、その背景にあった意思疎通の不全をきっかけに、幅広い訓練手順が作られた。これはクルー・リソース・マネジメント訓練（CRM）として知られる。CRMは、飛行乗務員が直面する問題の大半は、実際にはコックピットの操作に関する技術的な側面ではなく、状況認識、集団での意思決定、リーダーシップに関わるという発見に基づいている。そのためCRMは、利用可能なあらゆる資源を安全かつ効率的に活用するために必要な認知能力や対人スキルを対象とする。
重要なのは、CRMが国ごとの文化における主要な違いも考慮している点だ。集団主義、不確実性の回避、権力格差などが挙げられる。たとえば権力格差（PD）は、上司と部下の間にある権力の差を表す指標である。PDの高い文化では、部下は上司に直接話しかけるのを避け、反対意見を述べることをためらう。こうした要因がコックピット内の人間関係に影響し、CRMはこの種の文化的な違いを緩和する助けとなる。現在、CRMの重要性は世界的に認められ、飛行乗務員はキャリアのさまざまな段階でCRMを受けることが義務づけられている。
飛行乗務員と同じように、AIの専門家も、安全が特に重視される状況で、さまざまな文化的背景を持つ人々と働くことが多い。悲劇が起きてからAIチーム内のコミュニケーションとチームワークに取り組むのでは遅い。航空業界のCRMは、独自の標準的かつ包括的な訓練手順を策定するうえで参考になる。
2. 規制と標準化
航空業界はCRM訓練によって対人スキルの向上を図り、人々の安全を守る一方、規制措置や標準化されたプロセスを数多く導入し、業務の技術面と運用面にも対処している。たとえば、公式に認められたFAAの免許と資格は、航空業界の多くの職務で必要とされる。航空技術の製造・保守を担うのか（技術者には航空整備士資格が必要）、それとも運用するのか（パイロットには定期的な再認定が必要）によって、求められる免許は異なる。
航空業界は、標準業務手順や公式チェックリストなど、多くのプロセスにも従っている。こうした共通の指針は、一貫性と信頼性を高めることでミスを減らす。
AI業界全体に同様の規制要件と標準化されたプロセスを適用すれば、同じように安全性を高められるだろう。業界全体で義務づけられ、認知される新たなAI認定資格や免許を検討しよう。AI技術を構築・保守するのか（モデルやアルゴリズムを作る研究者やエンジニア）、それとも運用するのか（AIツールを使う政府当局者や企業幹部）によって、必要な免許を分ける。
現在のAI分野で標準化し、広く採用できる手順も検討しよう。すでにいくつかの取り組みが始まっている。マイクロソフトの責任あるAI関連リソースにはテンプレート、チェックリスト、方針が含まれ、IBMのAI Fairness 360ツールキットやGoogleのWhat-Ifツールは、開発者がコード内のバイアスを検出し、評価するのに役立つ。AIで原則やプロセスをより一貫して採用する取り組みを進めるうえで、航空業界はAI業界が安全に発展するための指針となる。
3. 安全情報を共有する文化
最後に、訓練プログラムや規制の整備に加え、航空業界は関連する安全情報を共有し、フィードバックに耳を傾ける文化を育むことで、高いリスクにも対応してきた。人々の安全を守るという大きな必要性を前にすれば、情報の保留やミスの隠蔽、誤りへの罰則は許されない。利用者を守るという共通の責任から、航空機関や専門家は、将来の事故防止に役立つミスや失敗の情報を共有している。
たとえば航空関係者は、安全上のインシデントや状況を自発的に機密データベースに報告できる。AI業界も、人間とAIのやり取りに関する問題を報告する同様のデータベースを導入できるだろう。AI専門家向けの機密データベースは倫理上の懸念を提起できる安全な場となり、別のデータベースには、AI技術の利用者や影響を受ける人々からのフィードバックを集められる。
マイクロソフト社長のブラッド・スミスは、「自社の技術が世界を変えるなら、自らが形づくった世界の課題に取り組む責任を負う」と述べている。航空業界は、苦い経験から得た教訓を通じて、この重い責任を担ってきた。AI業界も、世界を変革する番を迎えるなかで、そこから学ぶことができる。
