AI搭載サービスの利用がますます広がる中、これらのシステムを責任を持って導入する方法については、依然として合意が得られていません。
この課題に対処するため、私たちはリスクと便益の評価枠組みの導入を呼びかけています。
こうした枠組みを設計しようとする組織のために、12の検討事項を以下に示します。
過去10年間で、人工知能（AI）は第4次産業革命を牽引するソフトウェアの基盤として台頭してきました。これは、あらゆる分野、経済、産業に影響を及ぼす技術的な力です。
AI搭載サービスは、より個別化された買い物体験の創出、生産性の向上、農業効率の増進のために、すでに応用されています。この進歩は重要な点で目覚ましいものですが、同時に独自の課題も生み出しています。さまざまな研究では、適切な監視がなければ、AIが人間の偏見や差別を再現したり、むしろ悪化させたり、その他の意図しない結果をもたらしたりする可能性があることが明らかにされています。これは、刑事司法、医療、銀行業務、雇用といった重大な影響を伴う分野にAIが導入される場合に、特に問題となります。
政策立案者や産業界の関係者は、AIに関連する機会とリスクの双方について、ますます認識を深めています。しかし、AIシステムの信頼できる導入を確保するために導入すべき監視プロセスについては、依然として合意が得られていません。すなわち、特定のAIシステムの振る舞いが、EUの無差別法（Non-Discrimination Law）などの法律から組織のガイドラインに至るまでの、さまざまな仕様の集合と整合していることを確実にすることが求められています。
こうした困難は、主に深層学習システムの動作方法に起因しています。数億ものパラメータを含みうるニューラルネットワークを用いたパターン分類は、不透明で直感的に理解しにくい意思決定プロセスを生み出す可能性があります。このため、バグや不整合の検出は極めて困難になります。
AIシステムにおけるリスクの特定と軽減に向けた継続的な取り組み
これらの課題に対処し、AIの恩恵をすべての人にもたらすために、AIシステムのリスクを特定し軽減するための、リスクと便益の評価枠組みの導入を呼びかけます。
これらの枠組みは、評価基準や利用シナリオに基づいて、特定のAIシステムに関連するリスクの特定、監視、軽減を確実に行うことを可能にしうるものです。これは、業界で一般的な慣行である、学習用データセットを用いてシステムを訓練し、別のデータセットで試験して平均的なケースにおける性能を明らかにするという現状とは異なるアプローチです。
こうした枠組みを設計するための様々な取り組みが、政府と産業界の双方で進められています。昨年、シンガポールは「AIガバナンス・フレームワーク・モデル（Model AI Governance Framework）」を公表しました。これは、AIを責任を持って導入しようとする民間セクターの組織に対して、すぐに実施可能な指針を提供するものです。さらに最近では、Googleが、AIシステムの内部監査のためのエンドツーエンドの枠組みを公表しました。
リスクと便益の評価枠組みの設計に関する主な検討事項
既存の文献を基礎として、健全なリスクと便益の評価枠組みを通じて監査可能なAIシステムの設計を検討する組織を支援するための指針を、共同で策定しました。
1. AI搭載サービスを導入する理由を正当化する
AI搭載サービスに関連するリスクを軽減する方法を検討する前に、それらを導入しようとする組織は、割り当てられた目的と、それがエンドユーザー、消費者、市民、社会全体といった様々なステークホルダーにどのように便益をもたらすことが期待されるかを明確に示すべきです。
2. マルチステークホルダー・アプローチを採用する
プロジェクトチームは、各プロジェクトに関与すべき社内外のステークホルダーを特定し、想定される利用シナリオや検討中のAIシステムの仕様に関する関連情報を提供すべきです。
3. 関連する規制を考慮し、既存のベストプラクティスを基盤とする
特定のAI搭載ソリューションに関連するリスクと便益を検討する際には、影響評価に関連する人権および市民的権利を含めるべきです。
4. AI搭載サービスのライフサイクル全体にわたってリスクと便益の評価枠組みを適用する
AIソフトウェアと従来のソフトウェア開発との重要な違いは、学習の側面です（すなわち、基盤となるモデルはデータと利用に伴って進化します）。したがって、妥当なリスク評価枠組みは、構築時（設計）と実行時（監視と管理）の両方を統合しなければなりません。また、構築時と実行時のいずれにおいても、マルチステークホルダーの視点から評価可能であるべきです。
5. ユーザー中心かつユースケースに基づくアプローチを採用する
リスクと便益の評価枠組みを実効的に行動につなげるためには、プロジェクトチームの視点から、そして特定のユースケースを中心に設計されるべきです。
6. リスクの優先順位付けの仕組みを明確に示す
ステークホルダーのグループによって、リスクと便益に対する認識や許容度は異なります。したがって、リスクと便益がどのように優先順位付けされ、競合する利害がどのように調整されるかを説明するプロセスを実施することが不可欠です。
7. パフォーマンス指標を定義する
プロジェクトチームは、主要なステークホルダーと協議したうえで、AI搭載システムが意図された目的に適合しているかを評価するための明確な指標を定義すべきです。そのような指標は、システムの狭義に定義された精度に加え、より広義に定義された目的適合性の他の側面（規制遵守、ユーザー体験、導入率などの要素を含む）を対象とすべきです。
8. 業務上の役割を定義する
プロジェクトチームは、AI搭載システムの導入と運用における人間の担当者の役割を明確に定義すべきです。その定義には、システムの効果的な運用に必要な各担当者の責任、その役割を担うために必要な能力、そして役割が意図どおりに果たされなかった場合に伴うリスクの明確な規定を含めるべきです。
9. データ要件とデータフローを明確にする
プロジェクトチームは、AI搭載システムの効果的な訓練、試験、運用に必要なデータの量と性質を明確にすべきです。プロジェクトチームは、システムの運用に伴って想定されるデータフロー（データの取得、処理、保存、最終的な処分を含む）を整理し、データライフサイクルの各段階においてデータのセキュリティと完全性を維持するための規定を特定すべきです。
10. 説明責任の所在を明確にする
プロジェクトチームは、AI搭載システムによって生じる結果（中間的なものと最終的なものの双方）に対する責任の所在を整理すべきです。そのような整理により、第三者がシステムの予期しない結果に対する責任を評価できるようにすべきです。
11. 実験の文化を支援する
組織は、リスクを慎重に見極めた上での挑戦を促すため、AI搭載サービスの導入に関して実験する権利を提唱すべきです。実践においては、実現可能性と検証のための研究を立ち上げ、部門や専門分野を横断した協働を促進し、専用のプラットフォームを通じて知見やフィードバックを共有することが求められます。
12. 教育資源を作成する
様々なリスクと便益の評価枠組み、その性能、および改訂版からなるリポジトリを構築し、AI搭載サービスの導入における組織の強固な能力を育成することが重要です。
これらの指針が、AIの倫理を実践に移そうとする組織が、適切な問いを立て、ベストプラクティスに従い、このプロセスにおいて適切なステークホルダーを特定し関与させることに役立つことを願っています。私たちは、この重要な議論に対して最終的な結論を示そうとするものではなく、組織が責任を持ってAIを導入するための道のりを後押しすることを目的としています。
