人道支援分野では、AIの活用を含め、ニーズを先取りする取り組みが増えつつある。
しかし、AIツールの多くは、現地のアクターではなく、大規模組織によって、そして大規模組織のために構築されている。
人道支援AIは、紛争や災害の影響を受けたコミュニティとともに設計されるべきである。
危機への対応においては、タイミングがすべてである。予測、早期警戒システム、あるいは危機の影響に関するタイムリーで正確な情報を活用して災害を先取りすることは、何百人もの命を左右しうる。だからこそ、人道支援分野では、先回りした行動（アンティシパトリー・アクション）の推進が進んでいる。これは、人道的ニーズを減らすための重要な手段である。この変化の中核を担う新たなツールの一つが、人工知能（AI）である。
2021年には、世界銀行によるAIイノベーションの分析は、災害リスク管理におけるAIの活用が、脆弱性マッピング、人口移動のモデリング、リスク予測、被害評価の支援など、幅広い業務に及んでいることを明らかにした。これらのツールは、対応者と危機の影響を受けたコミュニティの双方に、より賢明な意思決定に必要なタイムリーかつ適切な情報をもたらす、前例のない可能性を秘めている。
しかし、人道支援AIの導入にはいくつかの課題がある。データの偏り、プライバシーへの脅威、モデルの解釈可能性の低さといったリスクの一部は、医療から社会福祉に至るまで、あらゆる重大な影響を伴う分野に共通するものである。一方で、説明責任の欠如や、国際的なアクターと現地のアクターとの間で既存の権力構造を再生産してしまう危険性など、独自の脅威をもたらすものもある。
AIがもたらすリスクは、コア・ヒューマニタリアン・スタンダード（人道支援分野が遵守を目指す憲章）と真っ向から対立するものであり、現地組織により多くの主体性を与えるという支援セクターの約束をも損なうものである。人道支援分野における予測分析に関する分析によれば、これらのツールは主に大規模な国際機関や産業界によって利用されている。当機関自身の既存のAIツールに関する調査では、AIモデルが現地で生成されたデータや知見を用いて学習された場合でも、現地組織や危機の影響を受けた人々が利用するために構築されているものは3分の1未満にすぎないことが分かった。
当然ながら、AIツールは、その影響を受ける現地の人々の参加を得て設計・開発されることがほとんどない。これはコミュニティをリスクにさらす。AIモデルは、新たな状況に適用する際の汎用性に乏しいことで知られている。現地の意味ある意見を取り入れずに、何千マイルも離れたチームによって構築されれば、どの問題に取り組むべきか、どのデータが有用となりうるか、そしてこれらの技術をどのように活用すべきかについて、関連する知見が見落とされる可能性が高い。
人道支援AI：新たなアプローチ
この課題の解決策は、現地で開発され、現地が主体的に所有する人道支援AIを構築することにある。その際には、参加型AIの手法を用いる。危機の影響を受けたコミュニティの集合知を活用するツールを開発し、通常いかなる危機においても最初の対応者となる現地組織やコミュニティが利用できるようにすべきである。
英国人道イノベーション・ハブ（UK Humanitarian Innovation Hub）の助成を受け、Nesta の集合知設計センター（Centre for Collective Intelligence Design）および赤十字・赤新月社国際連盟（International Federation of the Red Cross & Crescent Societies）は、このような新たなアプローチを近年試験的に導入し、ネパールとカメルーンで2つの新たなツールを開発して、最前線における危機対応の改善を図った。このプロジェクトでは、コミュニティと協働して、AIモデルの学習に用いる新たで多様性に富んだデータセットを構築し、データの偏りのリスクを最小限に抑えることに取り組んだ。また、コミュニティおよび最前線の対応者と協働して、ツールの評価方法について合意形成を行い、AIモデルが彼らにとって重要な成果に向けて最適化されるようにした。さらに、開発段階においてAIモデルの改良にもコミュニティが関与した。ネパールではコミュニティ・ワークショップの結果、民族がモデルの入力項目の一つから削除された。一方、カメルーンでは、赤十字のボランティアがモデルの動作方法における死角を特定した。
困難ではあるものの、このようなプロジェクトは、現地のデータ、現地のインフラ、そして現地の人材によって現地AIを構築することが可能であることを示している。また、現地の優先事項や価値観に応えるAIを構築することも可能である。要するに、現地の状況と影響を受けるコミュニティを中心に据えた参加型AIのアプローチを採用することで、より堅牢で社会的に受容されるAIツールを生み出すことができる。
インクルーシブAIを、一時的な実験にとどめるのではなく主流の実践とするには、資金提供者、支援機関、技術イノベーターなど、セクター全体での転換が必要となる。現地レベルで適切な技術スキルに投資することは、もちろん明白な出発点である。さらに、大規模で教師あり学習型の、膨大なデータを必要とするモデルを構築するのではなく、資源が限られ、データが乏しい環境（人道的危機に直面するほとんどの国の現実である）で機能するAIモデルを、あらゆる場所の技術者が開発することが求められている。
人道支援の資金提供者には、データのギャップを埋めるための協調的なアプローチに投資し、大規模機関だけでなく、現地の人道支援対応者やコミュニティの活動にとって重要なオープンデータセットを構築することが求められている。そして、危機の影響を受けたコミュニティの参加と監督のもとでAIツールを設計する取り組みを、より一層増やす必要がある。これを実現するには、コミュニティ・エンゲージメントのチームが参加型AIの実践者となるためのスキルを向上させ、技術者と現地コミュニティの橋渡しに役立つスキルやツールを開発することが不可欠となる。
人道支援技術の開発における従来の論理を変えることは容易ではないが、すべての支援機関や資金提供者が、「影響を受けるコミュニティは、この技術の設計と監督にどのように参加するのか？」という問いを投げかけ始めたらどうだろうか。これこそが、真に知的な人道支援AIを生み出すための第一歩となることは間違いない。
