AIは産業を変革し、ガバナンス上のニーズに応える革新的なソリューションや訓練を受けた専門人材への需要を高めています。
AIシステムの自主的なガバナンスには、新たな規制が絶えず変化するなか、組織的な管理策と技術的な管理策の両方が必要です。
AIの今後の道筋は開かれた協働的なものであり、責任ある導入を拡大するには自動化が必要です。
人工知能（AI）はあらゆる産業を変革しています。リーダーたちは、生産性の向上、創造性の強化、品質の改善、新たなソリューションの創出におけるこの技術の可能性を認識しています。これによりAI、とりわけ生成AIへの需要が急増しています。
価値を引き出すこと責任ある変革を通じて生成AIの価値を引き出すことは、状況を一変させる可能性があります。生成AIの活用事例はさまざまな産業に見られ、家具業界で新たなデザインの着想を得ることや、マーケティングの個別最適化から、製薬業界での創薬の加速まで多岐にわたります。
しかし、AIがもたらす価値の可能性とともに、リーダーたちは、問題が起きた場合の偏見、安全性、セキュリティ、評判の失墜などのリスクも懸念しています。
多くのリーダーは、こうしたリスクの軽減が競争優位につながり、組織の成功に根本的に寄与し得ることも認識しています。そのため、技術を倫理的かつ責任ある形で導入することが重要な検討事項となり、AIガバナンスが急速に台頭し、普及しています。
AI規制はすでに存在し、拡大している
AIはすでに、技術そのものだけにとどまらない適用規制の対象となっています。たとえば、法律はプライバシー、差別禁止、責任、製品安全に焦点を当てています。さらに、AIに特化した規制の動きも拡大しています。
2024年、欧州連合（EU）の人工知能法、すなわちEU AI法が、長年の議論と期待を経て、ついに法律として成立しました。一般データ保護規則（GDPR）と同様に、この法律は世界の他の地域でも同様の法律に影響を与えると見込まれます。
AIは世界各地の政策立案者の議論に上り、言及される頻度は2023年には、2022年の2倍となりました。規制の動きが生成AIに明確に焦点を当てている例もあり、その一つが中国の「生成型人工知能サービス管理暫定弁法」です。
AI関連の標準化活動や管轄区域を越えた協働も増加しています。経済協力開発機構（OECD）、米国国立標準技術研究所（NIST）、国連教育科学文化機関（UNESCO）、国際標準化機構（ISO）、主要7カ国（G7）が主導する取り組みがその例です。
2024年には、新たなAI安全研究機関の設立や、米国、英国、シンガポール、日本の研究機関が主導する取り組みの拡大を受け、AIの安全性への注目が高まりました。また、新設されたEU AIオフィスは、EU AI法に基づいて設置され、ベストプラクティスの策定に取り組みます。
政策立案者がAIリスクの管理方法に取り組むなか、AI規制や標準の量と種類は、今後も当面増え続けると見込まれます。相互運用可能な標準や基本的な規制要件に関する国際合意は、イノベーションを可能にし、AIの安全性を高めるうえで重要な役割を果たすでしょう。
AIの自主的なガバナンスには、組織的・技術的な管理策の両方が必要
多くの組織は、自組織の価値観との整合性をさらに高め、評価を築くために、自主的なガバナンスのアプローチを採用しています。
実際、組織の原則を実践するには、規制要件を超える倫理基準を満たすことが求められる場合がよくあります。組織は、米国NISTのAIリスク管理フレームワーク、シンガポールのAI Verifyフレームワークとツールキット、英国AI安全研究所がオープンソース化したInspectAI安全性テストプラットフォームなど、自主的な手法や枠組みを活用することもできます。
AIシステムの自主的なガバナンスには、組織的な管理策に加え、技術的な管理策がますます自動化された形で用いられることになります。AIには、ISO/IEC 42001国際規格に記載されているような管理策を備えた、強固な組織管理システムが必要です。
社会技術システムと同様に、技術的な管理策も同じく重要です。自動化はしばしばその助けとなります。たとえば、AIレッドチーミング（問題を特定し、有害な振る舞いや結果からの保護に役立てるため、AIモデルを体系的にテストする方法）、メタデータの識別、ログ記録、モニタリング、アラートの自動化などが挙げられます。
技術の速度と知能がリアルタイムの管理を必要とする水準に達するにつれ、自動化が必要になります。さらに、調和のとれた標準や技術的なAI安全対策が進展するにつれて、多くの組織がそれらを取り入れるでしょう。
人間とAIの協働は今後も重要です。たとえばIBMは、AI倫理委員会と統合ガバナンス・プログラムを通じて組織的な管理策を導入し、顧客が組織的・技術的な管理策を実践できるよう、watsonx.governanceなどのソリューションを提供しています。
高まるAI専門人材の需要
AIガバナンス市場が急速に拡大し続けるなか、責任ある組織的・技術的な管理策を実践できる熟練したAI専門人材への需要が高まるでしょう。
競争の場には、既存のテクノロジー企業から、AI資産の管理、ポリシー管理、報告などのAIガバナンス・ソリューションにほぼ専念する新興企業までが含まれます。
市場は、インシデント管理、レッドチーミング、適合性評価、透明性報告、技術文書など、専門分野を支える形で進化するでしょう。それに伴い、AIガバナンスを担う訓練を受けた専門人材の数も増やす必要があります。
こうした専門人材には、規制で求められる業務を含め、市場の需要に固有の業務を遂行するための研修が必要です。教育と認定プログラムが重要な役割を果たします。実際、国際プライバシー専門家協会（IAPP）の人工知能ガバナンス専門家認定など、新たな認定制度がすでに登場しています。
専門人材の研修や、AI倫理とガバナンスの実践をより広く導入するには費用がかかりますが、こうした取り組みを行わない場合のコストは、さらに高くなる可能性があります。
組織は、包括的なアプローチを活用して投資収益率を評価できます。従来のリターンだけでなく、評判への影響から得られるリターンや、新たな組織能力を構築する可能性も検討します。
リーダーは、AIガバナンスを価値創出の観点から捉え、リスク回避だけに偏らないようにすべきです。
今後の道筋は開かれた協働的なもの
AIは、人々の働き方や暮らし方を変え、それを可能にしながら、個人、組織、社会に前例のない恩恵をもたらしています。
AIの導入規模を拡大するには熟練した人材が必要であり、責任ある導入を支えるために自動化も必要となることが少なくありません。こうした専門人材は、効果的な規制遵守や自主的なガバナンスへの高まるニーズにも対応できます。
世界経済フォーラムは、人工知能のガードレールをどのように構築しているのでしょうか？
AIエクセレンス・センターは、人工知能の急速な進化と、それが経済や社会にもたらす影響を理解するため、さまざまな分野のリーダーをつなぎます。また、AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援します。
信頼できる場と協働の取り組みを通じて、同センターはパートナー間の共通理解を深め、AIのイノベーションと活用に向けた責任あるアプローチに共同で取り組めるようにします。
企業は現在、AIの新たな活用方法を次々に見いだしていますが、量子技術、ロボティクス、バイオテクノロジー、ニューロテクノロジーなど、他の技術と融合することで、将来はさらに大きな可能性が広がります。
この状況では、オープンな技術と多様なステークホルダーとの協働が不可欠です。AIが産業を変革するなか、AIガバナンスは、この技術の価値を最大限に引き出すうえで重要な役割を果たします。
