NITI Aayogは、世界経済フォーラム第四次産業革命センターの支援を受けて、インドにおけるAIの責任ある利用を確保するためのアプローチを策定しています。
このアプローチは、AIソリューションが遵守すべき幅広い原則を定めるとともに、実施および執行の仕組みも検討しています。
原案文書が公開協議のために公表されました。NITI Aayogは現在、公共部門、民間部門、学術研究にわたる原則の執行に向けたロードマップを検討しています。
2018年に公表された国家AI戦略（NSAI）をさらに発展させ、NITI Aayogは現在、利用者と社会全体に対して「責任ある」方法でAIがもたらす経済的恩恵を実現するためのアプローチの策定に取り組んでいます。このアプローチは、類似の国際的な取り組みを参考にしつつ、インドの法制度および規制の枠組みに根差した形で、インドにおけるAIの設計、開発および展開に関する幅広い原則を確立することを目指しています。本文書はまた、公共部門、民間部門、研究機関および学術界にわたって原則を運用する方法も検討しています。
インド政府の政策研究機関であるNITI Aayogは、世界経済フォーラム第四次産業革命センター（C4IR）インドが主導した大規模な利害関係者協議に基づき、「責任ある#AIforAll」に向けたアプローチを策定しています。責任あるAIに関する作業文書（2019年12月に開催された協議ワークショップの結果に基づいて作成され、世界経済フォーラムC4IRインドが主催しました）は、2020年7月21日に世界各地のAI倫理の専門家を対象としたグローバル協議で発表され、その後NITI Aayogによってより広範な公開協議のために公表されました。
インドは、AI技術の分野において規制とイノベーションのバランスを図ろうとしています。
AI倫理原則はどのようなものであるべきでしょうか。
基本的人権の保護という共通の主題に基づき、多くの倫理的AI原則が世界各地で策定されてきました。インドの状況により適したアプローチとするため、作業文書の原則は、インド憲法に基づきインド国民に保障された「基本的権利」を基礎として策定されています。これらの原則は、対象となるユースケースにかかわらず、AIのリスクを事前に防止するうえで「長期にわたり有効」であるよう設計されています。
同時に、これらの原則がイノベーションを阻害せず、急速に発展するこの分野の最新動向から恩恵を受けられるよう、柔軟性も求められます。原則は進化していく必要があり、それらを定期的に更新するための制度的な仕組みも同様に必要です。
また、インドに適した規制の枠組みを評価することも重要です。保健や金融などの多くの分野では、規制当局がすでに存在しており、その規制権限を拡大することでこの機能を担う自然な選択肢となり得ることを念頭に置く必要があります。したがって、分野別の規制当局および法律に委ねるか、新たな法定機関を設けるかという問題が政策立案者に突きつけられています。もう一つの検討事項は、定められた原則の遵守に必要とされる執行の「程度」です。我々が必要としているのは高次の原則だけなのか、それとも特定のアプリケーションやユースケースを規制すべきなのか。
これらの原則を実践にどのように移せばよいでしょうか。
執行の仕組みは、標準、ガイドライン、法律といった様々なレベルで進化しています。自己認証と規制の線引きは、NITI Aayogが様々な専門家協議で議論している主要な課題の一つです。自己認証は有用であり、政府が通知する基本要素を企業が遵守する形で検討されるべきですが、それがより直接的なアプローチの代替となることはできません。
様々な専門家協議では、原則の執行の程度を異なるものとするため、リスクに基づいてAIのユースケースを階層化する方法が、最も支持される行動方針として浮上しています。
原則の執行に向けては、AI倫理標準は必要ではあるものの十分ではなく、ガイドラインおよび法律によって補完される必要があります。標準の通知だけでは非常に受動的なアプローチにとどまるため、これらが組織の文化や業務プロセスに適切に組み込まれるよう、より積極的な取り組みが求められます。ガイドラインおよび法律は原則の執行においてより強力な手段ではあるものの、イノベーションに対する機動性や柔軟性に欠けるところもあります。
民間部門におけるAI倫理
社内倫理委員会、自己評価ガイド、外部監査は、民間部門における執行の主要な仕組みとして、複数の専門家により推奨されています。一定の状況においては、提供者に対して、そのソリューションに対する独立した監査を受け入れることを義務付けることも検討しうるでしょう。これは、予期せぬ結果を防止または軽減するのに役立ちます。
もう一つの主要な課題は、分野横断的なガイドラインと分野固有のガイドラインを区別することです。業界レベルでAIを用いたユースケースを評価することは、分野固有の違いを特定するのに役立ちます。ユースケースのポートフォリオに付随する影響、便益およびリスクに応じて、ガバナンスの枠組みを適宜運用することができます。これにより、責任あるAI政策の枠組みを実世界のアプリケーションで検証することも可能になります。
研究におけるAI倫理
AI分野の研究が原則を遵守することを確保するため、専門家は医療分野の実務から学ぶことを推奨しています。具体的な実務には、「内部審査委員会（IRB）」または特定の倫理審査委員会の設置が含まれます。
倫理的なAI研究を奨励することも、もう一つの重要な重点分野です。NITI Aayogは、NSAIにおいて「インド：AIのガレージ」および「グローバルAIアライアンス」という概念を説明する中で、特に倫理的AIに関する国際協力や、同様のプロジェクトに向けた政府資金の拠出を推進してきました。NITI Aayogの文書は、研究を検討しうる幅広い分野を特定することを目指しています。インド：AIのガレージ"」および「グローバルAIアライアンス」とりわけ倫理的AIに関する国際協力や、同様のプロジェクトに向けた政府資金の拠出。NITI Aayogの文書は、研究を検討しうる幅広い分野を特定することを目指しています。
公共部門におけるAI倫理
公共部門によるAIシステムの導入は社会全体に影響を及ぼすことが見込まれるため、AIの責任ある公共調達を確保することが重要です。そのためには、公共部門の調達担当者の判断が、当該分野の学際的な専門家グループによって導かれるようにする仕組みを整える必要があります。これは、調達文書や提案の評価を審査する「倫理審査委員会」の形をとることもあり得ます。
その他の運用に関する提言
以下を含め、他の多くの手法が検討されています。
AIの革新、開発および導入を促進するための規制サンドボックスなど、イノベーションに資する環境の創出。
設計プロセスの初期段階から倫理原則を実装する「設計段階からの倫理」アプローチ。
AIシステムの導入後における継続的なモニタリング（医薬品および医療機器の市販後監視と同様のもの）。
AIシステムによって行われた決定に対し、利用しやすく手頃な苦情処理の仕組みを確保すること。
AIに基づく意思決定の場合、異議申立て（上訴の権利）も重要になります。アルゴリズムが人々の権利や公共の便益に影響を与える決定を行う場合、自動化された意思決定に対する異議申立てを可能にすることによって、行政手続きが適正手続きをどのように確保するかを説明することが重要です。
第四次産業革命に関して、世界経済フォーラムはどのような取り組みを行っているのでしょうか。
先端技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集し、新興技術とその実社会への影響を理解することを支援しています。
協力と実験を可能にすることで、同センターは、研究から生まれたイノベーションを、世界共通の課題に対応する実用的なアプリケーションへと転換する取り組みをパートナーとともに進めています。
インドにおける#AIforAllという目標の重要な側面の一つは、責任あるAIと、倫理的配慮とイノベーションの必要性とのバランスを取ることです。公表された際には、インドの「全ての人のための責任あるAI」に関する文書が、インドの今後のAIロードマップにおけるAI倫理の課題への対応に関する提言を示すことになります。
