生成AIのリスク：最高法務責任者はどのように対処できるか？

• 生成AIは事業上の優先課題となりつつあり、コストの最適化、品質の向上、スピードの向上、持続可能性目標の達成に貢献しています。

• 急速に進化する分野において、組織はこれらの機会とリスク低減のバランスを取る必要があります。

• 機敏な組織は、リスク評価マトリクスを組み込みながら、genAIを導入するための全社レベルのガバナンス枠組みを策定しています。

生成AI（genAI）は、マッキンゼーの推計によれば、世界経済に年間4.4兆ドルを付加すると予測されています。取締役会と経営幹部は、事業運営全体でgenAIを導入する機会の全体像を把握し、「一世代に一度」の技術革新を逃さないよう緊急に取り組んでおり、リスクの監督が重要な検討事項となっています。

コンプライアンス、業務、レピュテーション、規制に関するリスク――genAIがもたらす影響は、その機会と同じくらい複雑です。品質管理、正確性、誤情報は、genAIの利用をめぐって浮上している主要な懸念事項です。genAIの出力の品質は、とりわけ入力データの品質に左右されます。AIモデルの誤情報と正確性も、別の課題です。最近、ニューヨークで偽のAI生成判例が引用された事例は、「AIのハルシネーション」という課題を示しています。

組織は、急速に進化する技術に対する複雑な規制対応の網の目を乗り越えようとしています。AIのルールと規制を策定する政府の役割に加え、株主に対する受託者責任に加えて、市民と社会の利益を守るうえで、業界による自主規制が重要な役割を果たすという認識が高まっています。政府による規制と、自主規制への民間部門の投資とのバランスは国ごとに異なりますが、規制当局（例：NISTのAI安全性研究所コンソーシアム）が、genAIのガバナンス基準の策定において業界と協働すべきだという動きが強まっています。

リスクと関連する低減アプローチ

世界経済フォーラムの最高法務責任者（CLO）コミュニティからの知見を取りまとめました。主要企業がgenAIのリスクと機会にどのように対応しているかを取り上げています。法務戦略とコーポレートガバナンスを担う組織の最上級幹部として、CLOはリスク評価の枠組みを通じて取締役会にAI関連リスクについて助言し、事業上の優先課題に戦略的に応えながら、全社的なリスク低減方針を策定するうえで、独自の立場にあります。

「知的財産」

Inderpreet Sawhney、Group General Counsel & Chief Compliance Officer、Infosys

大規模言語モデルを訓練するための著作権で保護された素材の無断使用は、genAI製品の開発において新たに浮上している知的財産リスクです。同様に、いくつかのAIモデルのライセンスでは、AIが生成した出力を別のAIモデルの訓練やファインチューニングに使用することに制限が設けられています。興味深いことに、この傾向はオープンモデルとクローズドモデルの両方の提供者のライセンス慣行に見られます。利用者である組織は、AIによって生じるこの新時代のリスクを慎重に検討すべきです。

AI生成コンテンツの知的財産権の所有に関するもう一つの重要な課題は、管轄区域をまたいだ法的な確実性が求められることです。そのような所有権が確立されていない場合、業界セクターごとに程度の差はあれ、商業上の影響が生じます。関係するすべての利害関係者を巻き込み、各国間で法制度を調和させる必要があります。

「規制の調和の欠如」

Andreas Hoffmann、General Counsel & Head of Legal and Compliance、Siemens

既存の規制の適用可能性に関するギャップや不明確さ、そして新たに登場するAI規制の相違は、グローバル企業にとってもう一つのリスクとなっています。EUのAI法や、2023年10月30日に発令された米国のAIの安全性とセキュリティに関する大統領令など、新たな規制の寄せ集めが地平線上に現れつつあります。相違は国家レベルだけでなく、地方自治体や業界全体のレベルにも及んでいます。米国だけでも、2023年に25を超える州がAI関連の法案を提出しました。AI規制環境が多中心的かつ断片化していることは、多様な分野や地域で事業を展開する企業にとって深刻なリスクとなっています。

AIガバナンスアライアンスとは何ですか？

03:17

「触媒としてのコンプライアンス」

Ulrike Schwarz-Runer、Managing Director & Senior Partner、General Counsel、BCG

AIを取り巻く現在の規制環境は世界的に断片化したままですが、同時に組織がベストプラクティスを積極的に形作る独自の機会も提供しています。責任あるAIのコンプライアンスプログラムを早期に取り入れる企業は、誠実さをもって主導することができるでしょう。デューデリジェンス、コンプライアンスプログラム、文書化に加え、テストと学習が、このAIの道のりにおいて必要な取り組みです。これらは規模拡大と成長の触媒とみなすべきものであり、これらのソリューションの信頼性、品質、安全性を確保するうえで不可欠となるでしょう。

「信頼の構築」

Sabastian Niles、President & Chief Legal Officer、Salesforce

生成AIが持つ目覚ましい経済的・人道的可能性を実現するには、技術革新にとどまらず、信頼が不可欠です。すべてはそこにかかっています。民間部門は、自社の組織や業界内で、AIの恩恵を最大化するための信頼最優先のアプローチを示すことができます。これは、内部および外部の顧客と利害関係者の持続的な成功を優先する「両立」のアプローチを取ることを意味します。リスクを予測し管理する一方で、AIを賢明な成長、生産性の向上、賢明な意思決定を可能にするものとして位置づけ、今後のアップスキリング、リスキリング、人材拡大の可能性を積極的に受け入れます。

しかし、AIの力を信頼できる形で活用するには、規制当局、企業、市民社会が協力し、以下のガイドラインとガードレールを遵守する必要があります。

透明性の確保：AIシステムと対話していることを人々が認識でき、AIによる意思決定がどのように行われるかについての情報にアクセスできるべきです。

プライバシーの保護：AIはデータに基づいているため、そのデータの品質、完全性、適切な収集と利用を促進し保護することが信頼構築に不可欠です。業界標準、調和の取れた規制、常識に基づく法制度は、プライバシーと、顧客による自身のデータの管理を支えるべきです。

バリューチェーン全体に対応するリスクベースの枠組みの策定：AIに万能の解決策はなく、効果的な枠組みは、市民を保護しつつ、包摂的なイノベーションを促進すべきです。

前述のとおり、法的義務への単なる準拠だけでは不十分です。企業は、顧客や利害関係者の期待を理解し、それを上回ることに努めることで、信頼を構築することを目指す必要があります。この追求にはトレードオフへの対応が伴う場合もありますが、AIのユースケースを審査するAIガバナンス評議会のような社内の取り組みを推進し、倫理的な利用に関する方針を導入することで、最高法務責任者は、AIイノベーションの時代において、信頼、説明責任、そして前向きな影響の創出を優先するよう組織を導く中心的な役割を果たすことができます

「全社レベルの方針」

Rishi Varma、Senior Vice-President & General Counsel、Hewlett Packard Enterprise

企業は、チェック・アンド・バランスの仕組みを確保するため、リスク低減戦略を策定しています。一部の革新的な企業は、AIガバナンス戦略を策定・監視するために、AI監督委員会または倫理委員会を設置しています。このような委員会は、最高技術責任者、最高データ責任者、最高法務責任者などの組織内の上級幹部の専門知識を結集し、データ戦略から人材戦略に至るまで、企業の中核的な価値観と優先事項に沿った戦略を含めることができます。

Pierre Gentin、Senior Partner & Chief Legal Officer、McKinsey

新たに生まれつつある世界的な規制および業界標準と整合した社内方針は、効果的なAIガバナンスのアプローチにおける基礎的な要素です。方針では、高リスクのAIユースケースを特定し、そのようなシステムの開発に関わるチームが満たすことが求められる一連の基準を定める必要があります。方針が組織全体で効果的に伝達され、実行されることを確保することが、企業が近い将来に注力すべき点であるべきです。

Ryan Taylor、Chief Revenue Officer & Chief Legal Officer、Palantir Technologies

genAIの利用に関するガバナンスには、リスクを軽減するために、制度的な監督と統制以上のものが必要です。AIが生成した出力を、人間が主導し、人間に影響を与える結果と結びつける際の信頼性、アクセス性、安全性を確保するための、包括的なデジタル基盤も必要です。次世代のAIアプリケーションにおけるコンプライアンスの設計と信頼・説明責任の醸成は、データのライフサイクル管理から意思決定支援、人的相互作用の監督に至るまで、システム全体を見据えたリスクへのアプローチから始まります。

「保険業界の視点」

Katja Roth Pellanda、Group General Counsel、Zurich Insurance Group

革新的なAIアプリケーションは、保険会社が引受プロセスを合理化し、不正をより効果的に検出し、個々のニーズに合わせて保険契約を調整することを可能にし、業界の運営と顧客サービスに変革をもたらしています。

AIガバナンス・アライアンス

フォーラムの新しいAIガバナンス・アライアンスは、責任ある世界的な設計を推進し、透明性と包摂性のあるAIシステムを構築するための、先駆的なグローバルかつマルチステークホルダーの取り組みです。政府主導の規制が全体的な枠組みを定める一方で、リスク低減戦略による自主規制は、急速に進化する技術環境において、企業が責任ある開発と展開という業界のニーズに対応するのに役立ちます。検討すべきこうした低減戦略には、オープンソースとクローズドソースのAIモデルのどちらを採用するか、また自社開発と第三者ベンダーのAIアプリケーションのどちらを選ぶかについての検討が含まれます。

もう一つの戦略は、テスト、品質、性能評価を開発のより早い段階に移すことです。これにより、組織はAIモデルの訓練に用いられるデータセットを監視し、透明性と説明責任に基づく措置を組み込むことができます。フォーラムのCLOコミュニティは2024年にAIガバナンス・アライアンスと協力し、企業がリスクを効果的に低減し、genAIを自主規制し、成功するAI戦略を策定するための共通のビジョンを形作る取り組みを進めています。