AIをめぐる規制環境は複雑で一貫性を欠き、ガバナンスは急速に進化する技術に追いつけずにいる。
企業は強固な倫理規範を適用し、必要な水準の責任と説明責任を確保するうえで重要な役割を果たせる。
テクノロジーが人類に資する未来を築くには、倫理的なAIが不可欠であり、企業の誠実性は高い基準を設けることで先導役を担える。
人工知能（AI）をめぐる規制環境は複雑で一貫性を欠いており、業界の自主的な行動規範から、国または超国家レベルの拘束力を持つリスクベースの規制まで、さまざまなアプローチがある。
国連、経済協力開発機構（OECD）、20か国・地域グループ（G20）、7か国グループ（G7）などの組織や、世界経済フォーラムのようなプラットフォームが推進する取り組みなど、AIガバナンスの調和に向けた世界的な努力が続く一方で、AIガバナンス・アライアンスなどがあるものの、ガバナンスが急速に進化する技術に追いつけず、前進は容易ではない。
つまり企業は、強固な倫理規範を適用し、必要な水準の責任と説明責任を確保するうえで重要な役割を担っている。
企業は、公益のためにAI倫理を組み込むよう企業責任を拡大し、自社の誠実性エコシステム、取締役会、機関投資家に必要な調整を加えることで、取り組みを後押しできる。
AIの誠実性エコシステムを強化する
AIの責任ある利用は、規制や賠償責任のリスクに加え、業界リーダーの社会的責任意識からも、あらゆる業界で懸念事項となっている。
実際、企業の誠実性は現在、法令遵守の範囲を超えてAIシステムの倫理的な導入まで含む傾向にある。多くの企業が、倫理規則、指針となる原則、社内ガイドラインを採用し、AIリスク管理のためのデューデリジェンスを強化している。
一方、ISO 42001のようなAIガバナンス基準はデューデリジェンスのプロセスを強化する。また、OECDのAIインシデント・モニターのような取り組みは、2024年1月以降、600件を超えるインシデントを報告している。AIシステムのリスクや被害に関する貴重な知見を提供することで、問題への対処と倫理的なAI導入の強化に役立つ。
それでも米国だけを見ても、C-suite幹部の73%が倫理的なAIガイドラインは重要だと考えている一方、実際に策定したのはわずか6%だと、最近の調査（ビジネスリーダー500人を対象）で明らかになった。
行動を起こそうとする企業には、G7広島プロセスのような取り組みが推進する、法的拘束力のない企業行動規範が、AI導入に関する世界的な企業の取り組みを導く助けとなる。例えば、ユニリーバは、新たなAIアプリケーションごとに有効性と倫理性を審査するAI保証プロセスを導入している。
グローバル企業におけるAIの誠実性エコシステムのガバナンスは、今も発展途上にある。そのなかで、最高法務責任者に加え、最高技術責任者、最高誠実性責任者、最高倫理責任者、最高コンプライアンス責任者、最高データ責任者の役割がますます重要になっている。
こうした体制の進化は、AIに伴う複雑なリスクを管理するうえで極めて重要だ。複数の部門が連携するアプローチは、見落としを防ぎ、AI開発の実務を徹底して安全なものにする。
例えば、インフォシスは、AIガバナンス評議会と責任あるAIオフィスが監督する、責任あるAIのエコシステムを導入した。この中央体制により、サイバー防衛、プライバシー、法務、品質など、さまざまなグループ間でAI管理を連携させている。
リスクを効果的に軽減するには、このガバナンスの枠組みを、継続的な従業員向け啓発プログラムと強固なAI管理システムで支えるとともに、AIアプリケーションごとに包括的な契約を整備することが不可欠だ。
一方、ノバルティスは、AIリスク・コンプライアンス管理の枠組みを策定した。EU AI法のような新たな規制に準拠するこのアプローチにより、同社はAIシステムのリスク影響評価を実施し、報告義務を果たしながら患者情報を保護している。
AIを責任を持って利用するには、明確な倫理的コミットメントと包括的なリスク・コンプライアンスの枠組みの両方が必要です
—クラウス・ムースマイヤー、ノバルティス最高倫理・リスク・コンプライアンス責任者
クラウス・ムースマイヤー、ノバルティス最高倫理・リスク・コンプライアンス責任者
AIの責任ある開発を可能にする取締役会と投資家の役割
取締役会は、企業の誠実性と責任に対するアプローチを広げることで、AIの責任ある開発と導入を後押しできる。
ただし、効果的に取り組むには、AIの能力とリスクに精通し、戦略的な議論、監督責任、リスク評価にAI倫理を不可欠な要素として組み込む必要がある。
ノバルティスでは、CEOが議長を務める環境・社会・ガバナンス（ESG）委員会が、AI倫理を経営上層部の戦略的意思決定に組み込むAI枠組みを承認した。ガバナンスの最高レベルでこうした統合を行うことで、AIシステムに対する継続的な説明責任を確保している。
こうした取り組みが重要なのは、最近の訴訟が示すように、企業は人工知能の不適切な利用について法的責任を問われるためだ。その一例がエア・カナダのチャットボットの事例で、乗客に誤った助言をしたチャットボットについて、航空会社に責任があると判断された。
機関投資家は、巨大テクノロジー企業とそれ以外の企業双方の株主として、責任あるAIに向けた道筋を定める重要な役割も果たせる。
実際、責任あるAIを求める株主アクティビズムは拡大している。例えば、マイクロソフトの投資家の5分の1が、AI生成の偽情報による財務上および評判上のリスクを管理するよう同社に求めた。
ノルウェー政府年金基金を含む複数の年金基金がこの提案を支持した。資産規模1.4兆ドルの同基金は、AIのより賢明な規制を求めるとともに、投資先企業に責任ある独自の基準を策定し、責任ある倫理的なAIの利用に関する期待を示している。
また、米国証券取引委員会（SEC）は、アップルやディズニーなどの企業におけるAI利用について株主投票を促し、倫理面での監視が強まっていることを浮き彫りにした。
投資家からの圧力の高まりは、倫理的なAIが社会的責任であるだけでなく、賢明な長期投資戦略でもあることを示している。責任あるAIは、長期的に商業的な成功や市場シェアの拡大に寄与しうる。
この見方を裏付けるように、最近の論文は、ベンチャーキャピタル投資家へのインタビューに基づき、AI倫理を重視することが競争優位につながる可能性を示している。AIガバナンスをめぐる世界的な議論ではリスク軽減が中心になりがちだが、責任あるAIは戦略的資産として認識されるべきだ。
政府も、AIソリューションの調達に倫理基準を盛り込むことで、市場動向に影響を与えられる。このアプローチは、米国連邦政府が発令した人工知能に関する明示された目的と合致する。これは、2023年の大統領令であり、公共調達をはじめとする分野で倫理的なAIが重要であることを強調している。
投資家、企業、政府によるこうした取り組みが一体となれば、誰もが恩恵を受けられる形でAIが開発・導入され、技術の進歩において倫理的配慮が最優先される未来の実現に役立つ。
倫理的なAIへ向けて
倫理的なAIを求める動きは単なる流行ではない。誰もが恩恵を受ける、人間中心のデジタルの未来を形づくるための重要な運動だ。倫理的なAIは規制遵守にとどまらず、テクノロジーが公益に資し、共有する価値観に沿うことを目指す。倫理的なAIを受け入れることで、企業はより公平で責任あるデジタル環境の構築において重要な役割を果たせる。
この取り組みの鍵を握るのが企業の誠実性だ。企業が倫理的なAIの実践に取り組めば、信頼を築き、個人の権利を守り、人々のウェルビーイングを高める形で人工知能システムが設計・利用されるよう支援できる。これは害を避けるだけでなく、すべての人にとってより良い未来に積極的に貢献することだ。
これを実現するには、企業がAIの誠実性エコシステムを強化し、監督機関や取締役会が倫理的なAI開発を導くうえで積極的な役割を果たす必要がある。そのためには、法的要件を満たすだけでなく、AI導入のあらゆる側面で透明性、公平性、説明責任を優先することが求められる。
世界経済フォーラムは、人工知能のガードレールをどのように構築しているのか？
AIエクセレンス・センターは、さまざまな分野のリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解する場を提供している。また、AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づいた対話を支援する。
信頼できる場と協働の取り組みを通じて、センターはパートナーが共通理解を深め、AIのイノベーションと利用に責任を持って取り組む方法を共に探ることを可能にする。
さらに、責任ある人工知能への投資も不可欠だ。倫理的なAIを優先する企業を支援することで、投資家は公益を促進する取り組みの普及を後押しできる。こうした取り組みの影響は個々の企業をはるかに超え、人間の価値観や社会のニーズに沿った形でAIが開発・利用される世界的な環境を育む。
要するに、テクノロジーが人類に資する未来を築くには倫理的なAIが不可欠であり、企業の誠実性は高い基準を設け、あらゆる場面で責任ある実践を促すことで先導役を担える。これは企業の責任であるだけでなく、すべての人に役立つデジタル世界を形づくる共同の機会でもある。
本稿への貢献に対し、OECDデジタル・革新的・オープンガバメント課の課長カルロス・サンティソ氏、ならびにノバルティス最高倫理・リスク・コンプライアンス責任者で、フォーラムのグッドガバナンスに関するグローバル・フューチャー・カウンシルのメンバーであるクラウス・ムースマイヤー氏に特別な謝意を表する。
