2022年、世界の人工知能（AI）市場規模は1,200億ドルと推計され、2030年までに1.6兆ドルに達すると予測されている。
デュアルユース技術であるAIは、政府や企業が無視できない大きな経済的・社会的恩恵と課題をもたらしている。
組織は、信頼と確信を可能にするAIガバナンスモデルを実装する必要がある。
今日、人工知能（AI）技術は、自動運転車や金融からヘルスケアソリューションに至るまで、私たちの生活のほとんどの領域に存在している。2022年、IBMの調査によると、35％の企業が業務でAIを活用しており、42％の企業がAIの活用を模索していると回答した。
さらに、ガートナーは予測している2025年までに、新薬や新素材の30％超が生成AI技術を用いて発見されるとしている。
産業全体におけるAIの台頭は、市場の成長見通しにも表れている。2022年の世界のAI市場規模は1,200億ドルと推計され、2030年までに約1.6兆ドルに達すると予測されている。
AI技術は社会の進歩に寄与する多くの恩恵をもたらす一方で、デュアルユース技術として、プライバシー、安全、そして人々の幸福に影響を及ぼしうる大きな経済的・社会的混乱ももたらしている。そのため、政府、民間セクター、そして個人はこれを無視することができない。
AIに伴う恩恵を拡大し、リスクを低減するため、近年、公共および民間の組織は、倫理的で公正かつ信頼できるAIの開発と実装を導くことを目的としたガバナンスの枠組みを策定してきた。
信頼できるAIのガバナンス
例えば、2019年5月に採択された、OECDの人工知能に関する理事会勧告は、政府、組織、個人が実施すべき、信頼できるAIを責任をもって管理するための5つの主要原則を定めている。今日、これらの原則は、AIに関する国際標準および国内法制化の参照枠組みとして機能している。
AIガバナンスに関する国際的・地域的な取り組みの他の例としては、UNESCOの「AI倫理に関する勧告」、人権、民主主義、法の支配に関する欧州評議会の基準に基づく人工知能の法的枠組みに関する欧州評議会の提案、さらにEUのAIへのアプローチを定義する一連の文書が挙げられる。例えば、EUの「人工知能法（Artificial Intelligence Act）」は、信頼できるAIの法的枠組みを提案している。
国レベルでは、各国政府が、とりわけ信頼でき安全なAIへのアプローチを示すAI戦略を策定している。
民間セクターの視点では、GoogleやMicrosoftを含む多くの企業が、AIシステムを責任をもって構築するためのガバナンスツールや原則を策定しており、技術の意図しない結果を回避するための実践的なアプローチも示している。
しかし、こうした公共および民間のさまざまなガバナンスの取り組みにもかかわらず、調査によれば、大多数の組織は、信頼できる責任あるAIの開発と利用を確保するための実行可能な措置をまだ講じていない。例えば、70％を超える組織が、AIにおけるバイアスを排除するために必要な措置を講じておらず、推定52％の組織が、AIのライフサイクル全体を通じてデータのプライバシーを保護する能力を備えていない
方針から実践へ
信頼できるAIに関する方針を実践へと移すために、組織は、AIガバナンスの枠組みの実装を導く明確で体系的なプログラムを策定し、実施すべきである。とりわけ、これらのプログラムは以下を行うべきである。
AIの目的を明確に定義する。技術の目的によって、意思決定や予測を行うためにどのデータを処理すべきかが決まる。AIシステムが使用するデータは、正当な方法で取得され、システムの目的に合致している必要がある。
望ましい結果を得るために適切なアルゴリズムを特定し、学習させる。学習プロセスは、人間のバイアスを持ち込んだり、倫理的な落とし穴に陥ったりしないよう慎重に設計されなければならない。さらに、アルゴリズムが効果的に学習しているかを確認するための監視の仕組みを導入すべきである。
AIの意思決定プロセスにおける人間の関与を検討する。意思決定が速く行われる必要があるほど、プロセスに人間の関与が組み込まれる可能性は低くなる。しかし、意思決定プロセスにおける開放性と透明性を確保することが極めて重要である。
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのか？
産業や地域の枠を超える技術である信頼できるAIの開発と実装は、一人で成し遂げられるものではなく、研究者、開発者、企業、政策立案者の協働を必要とする。社会全体が、AIシステムが社会的価値と合致し、公共の利益を促進するよう確保する責任を負っている。
