人工知能（AI）は今や、家庭でも職場でも余暇でも、私たちの生活のほぼあらゆる側面に関わっています。
人々は、AI技術が収集したデータをどのように利用し、活用するのかに警戒心を抱いています。
シンガポールは、客観的な技術テストとプロセスチェックを通じて、各業界が責任あるAIの導入を実証できるAIガバナンスのテスト枠組みとツールキットを開発しています。
人工知能（AI）は普及が進み、あらゆる種類の機能を支えるようになっています。その中には重要な機能も含まれます。仕事や生活、余暇にも影響を与えています。たとえば、医療画像で重篤な病気を検出したり、顔認識でスマートフォンのロックを解除したりするために使われています。
しかし、AIモデルの出力が意図したとおりに機能しない場合もあります。たとえば、AIモデルが代表性のあるデータセットで学習・テストされていないと、特定の集団に対する偏りが生じることがあります。
AIの成熟度が高まり、普及がさらに進むなか、社会は、AIシステムが公平で、説明可能かつ安全であること、また、それを導入する企業がAIの利用について説明責任を果たし、透明性を確保することを求めています。では、企業は責任あるAIの実践を、客観的かつ検証可能な方法でステークホルダーに示すにはどうすればよいのでしょうか。
AIの自主的な自己評価
シンガポールでは、自主的な自己評価が出発点になると考えています。情報通信メディア開発庁（IMDA）と個人情報保護委員会（PDPC）は、まず次のものを開発しました。A.I. Verify。これは、技術テストとプロセスチェックを通じて、各業界がAIの導入状況についてより透明性を高められるAIガバナンスのテスト枠組みとツールキットです。
A.I. Verifyは2つの要素で構成されています。第一に、ガバナンステストの枠組みでは、テスト可能な基準と、テストの実施に必要な対応プロセスを定めています。第二に、ソフトウェアツールキットが技術テストを実施し、プロセスチェックの結果を記録します。
実用最小限の製品（MVP）として提供されているA.I. Verifyを、企業は次の目的で利用できます。A.I. Verifyを使えば、自社のAIシステムに何ができるか、また、そのリスクを軽減するためにどのような対策を講じたかを示せます。A.I. Verifyのテスト報告書によって、企業のステークホルダーは、利用するAIシステムの能力をよりよく把握できます。このプロセスは透明性をもたらし、AIへの信頼構築に役立ちます。
A.I. Verifyは倫理基準を定めるものではありません。各国が合意し、シンガポールのAIガバナンス施策も基盤とする、国際的に受け入れられている一連のAIガバナンス原則に照らして、企業による自社AIシステムについての主張を検証します。AIシステムに関する人々の懸念に沿って整理されたこれらの原則を、以下の図に示しています。MVPでは、初期セットとして8つの原則（緑色で表示）を選定しました。セキュリティとデータガバナンス（プライバシーを含む）のテスト体制は国際的に十分整備されているため、今回のパイロットには含めていません。
企業へのパイロット参加の呼びかけ
このMVPをもとに、シンガポールは企業に国際パイロットへの参加を呼びかけ、次の目標の達成を目指しています。
業界のニーズに応えられるよう、MVPを強化する：業界が社内外のステークホルダーとの信頼を築くうえでA.I. Verifyが役立つよう、枠組みとソフトウェアツールキットについて、各業界からのフィードバックを募ります。
国際的なAI基準の策定に貢献する：このパイロットへの業界の参加を通じて、シンガポールは世界各地のAIシステムの所有者や開発者と協力し、業界のベストプラクティスを集約してベンチマークを構築することを目指します。これらは、国際的なAI基準の策定に対するシンガポールの貢献として、国際標準化機関と共有できます。
AIガバナンス枠組みの相互運用性を促進する：IMDAは規制当局や標準化団体と協力し、相互運用性を構築するため、A.I. Verifyを既存のAI枠組みに対応づけています。これにより、複数の市場でAIを活用した製品やサービスを提供する企業は、各市場の規制要件をより効率的に満たせるようになります。
AIテストのコミュニティを共に築く：信頼できるAIの実現は世界的な必須課題ですが、信頼できるAIを検証するためのベストプラクティス、基準、手法の開発には、さらなる取り組みが必要です。シンガポールは、AIの恩恵を受ける個人や組織にとってこの取り組みが有意義なものとなるよう、業界、政策立案者、市民社会など、同じ志を持つパートナーとの連携を続けたいと考えています。
より多くのAIシステム開発者や所有者がA.I. Verifyを利用すれば、さまざまな業界やユースケースにおいて、AIガバナンス原則への適合に求められる許容水準のベンチマークを、クラウドソーシングで集め、共同開発できます。また、テクノロジーソリューションの提供者と協力し、AIモデルのテストに用いられている現在の手法や技術における課題と開発機会を特定し、信頼できるAIを検証するより良い方法を考案できます。
信頼を築くうえで重要なのは、AIアプリケーションの挙動について、すべてのステークホルダーに効果的に伝えることです。ステークホルダーには、規制当局、取締役、経営幹部、ビジネスパートナー、監査人、顧客、消費者が含まれます。意思決定を促すため、それぞれが異なる詳細度や洞察の情報を必要とします。そのため、各ステークホルダーの具体的な情報ニーズに応えるカスタマイズ可能な報告書テンプレートを開発する必要があります。
より広いコミュニティの知恵と努力を結集しなければ、これらの目標は達成できません。コミュニティ形成の一環として、IMDAとPDPCは、業界が規制当局と初期段階の政策検討について意見交換できる円卓会議に加え、信頼できるAIに関する業界別ベンチマークについて合意形成を図るワークショップを開催します。こうしたベンチマークは、基準策定をめぐる世界的な議論に対するコミュニティの貢献として、国際標準化機関と共有できます。
結論
AI倫理の原則は普遍的である可能性がありますが、その解釈や実践は文化や地理的な違いに左右されることが少なくありません。こうした違いはAIガバナンス枠組みの分断につながり、結果として企業が信頼できるAIを導入する際の障壁となり、国境を越えてAIを活用した製品やサービスを提供する能力を妨げるおそれがあります。
A.I. Verifyは、AIシステムの性能を検証するための客観的かつ検証可能な方法を特定し、定義するシンガポールの最初の一歩です。国際パイロットを通じて、AI倫理原則に関する業界ベンチマークの集約と策定を促進します。この学びの過程で同じ志を持つ関係者と協力し、A.I. Verifyのパイロットを実施できることを楽しみにしています。
