人工知能（AI）は、我々の時代において最も重大で影響力の大きい技術革新となることが期待されています。
企業は、進化する規制環境に迅速に適応し、自社の価値観や目標に沿った責任あるAIガバナンスの枠組みを確立しなければなりません。
責任あるAIの本質は、価値を生み出しつつリスクを回避し、レピュテーション資本を守るために、数多くのトレードオフを慎重に見極めることにあります。
人工知能（AI）は、我々の時代において最も重大で影響力の大きい技術革新となることが期待されており、猛烈なスピードで進化・発展しています。
特に生成AI（GenAI）をはじめとする最新の進歩により、AIは産業全体を再構築し、新たなビジネスモデルを生み出し、あらゆる業務機能と私たちの個人生活に影響を及ぼすことが確実視されています。
あらゆる画期的な技術と同様に、AIにも深刻なリスクが伴います。これには、データの品質とプライバシーに関するリスク、機密情報のセキュリティと安全性、誤解を招く出力、さらにはより深刻な問題として、偽情報キャンペーンや悪意ある行為者の手による技術の意図的な悪用などが含まれます。
こうした課題を認識し、世界各国の政府は規制の枠組みの確立に着手しています。AIを基盤とする技術の責任ある開発を確保するためです。欧州連合（EU）は、AIに関する初の専門的な法律であるEU AI法を制定しました。これは、AIの安全かつ合法的な利用を確保し、AIシステムにおける基本的権利の尊重を目指すものです。
今後、企業は、進化する規制環境に迅速に適応するための基盤を整える必要があり、自社の価値観や事業目標に沿った責任あるAIガバナンスの枠組みを確立しなければなりません。
民間セクターには重い責任が課されており、イノベーションと責任ある導入の間のギャップを埋めるための、包括的かつ動的なAIの枠組みを確保する必要があります。
では、企業はどこから始めればよいのでしょうか。
世界経済フォーラムは、人工知能に関するガードレールをどのように構築しているのでしょうか。
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解する場を提供しています。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援しています。
信頼できる場や協働的な取り組みを通じて、同センターはパートナーが共通の理解を築き、AIのイノベーションと利用に関する責任あるアプローチについて協力できるよう支援しています。
準備態勢を評価する
準備態勢の評価は、AIガバナンスに最適な環境を構築するための第一歩です。これは、AIを全体的に捉え、組織内でのAIの利用に関する基本的な問いに答えることを意味します。例えば、業界や規制環境に基づき、責任あるAIに関する企業のビジョンは何でしょうか。組織のビジネスモデルを踏まえると、このビジョンは既存の価値観とどのように整合するのでしょうか。また、AIがもたらす可能性が高いリスクは何でしょうか。これらの検討に基づき、組織は既存のガバナンスの枠組みを評価し、既存のガバナンスモデルがこれらのリスクに対処するのに十分かどうかを判断しなければなりません。
現在、多くの組織は、AIに適したアプローチとして、三線防御モデルを検討しています。このアプローチは、リスクに対する三層の防御から成ります。
1. 日々のリスクを管理・統制する業務管理者および従業員。
2. 監督と支援を担う専門的なリスク管理部門およびコンプライアンス部門。
3. リスク管理およびガバナンスのプロセスが有効に機能していることを独立した立場で保証する内部監査。
これは広く受け入れられているアプローチですが、各組織は、自社の環境にどのように適用するかを評価し、各防御線に適した基準と条件を定める必要があります。
準備態勢の確保には、適用される法律を検討し、コンプライアンス要件を満たすための費用対効果の高い解決策を特定することも含まれます。
例えばEU AI法は、高リスクAIの開発者とみなされる企業に対し、適合性評価の実施と、規制への適合性を実証するための詳細な文書の維持を義務付けています。この区分に該当する組織は、AIシステムが個人およびその権利に与える影響を評価するため、基本的権利影響評価を実施しなければなりません。これには、プログラミングおよび学習手法の記録、使用したデータセット、ならびに監視と管理のために講じた措置の記録を作成することが含まれます。
同時に、GenAIの基盤となる大規模言語モデル（LLM）の利用拡大により、組織には新たなセキュリティリスクが生じます。LLMによって悪意ある行為者の効率は高まっていますが、防御側はこれらの新しい手法に未だ追いついていません。そのため、複数の業務プロセスにわたってAI技術を時期尚早に活用すると、リスクにさらされる範囲が拡大するおそれがあります。
サイバーリスクに先手を打つため、企業はセキュリティ対策を見直し、次第にレッドチーミングを導入する必要があります。これは、AIを活用した敵対的アプローチによってサイバーセキュリティシステムを試験することであり、リスク管理の枠組みや統制策とあわせて実施されます。
世界経済フォーラムは、人工知能に関するガードレールをどのように構築しているのでしょうか。
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解する場を提供しています。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援しています。
信頼できる場や協働的な取り組みを通じて、同センターはパートナーが共通の理解を築き、AIのイノベーションと利用に関する責任あるアプローチについて協力できるよう支援しています。
学際的なチームを編成する
AIは単なる技術にとどまりません。AIは、私たちの人間関係や、人と人、そして技術とどのように協働するかを再構築し、変革していくでしょう。
組織にとって最大の課題の一つは、AIに関する見解を統一し、共通の用語を作り上げることです。例えば、データサイエンティストはAIの法的・倫理的な影響を十分に理解していない場合があります。一方、法務チームは法的・倫理的な知識を持っていても、それらの考慮事項を計算上の処理へと変換する能力を欠いている場合があります。
あらゆる分野で共通言語を構築することは複雑な課題であり、法的要件を計算要素へ、またその逆へと変換する際に、チームの協力が必要となります。法務チームではデータサイエンスが求められる貴重なスキルになる可能性があり、一方でエンジニアは、世界各地で制定されているAI規制に精通する必要が生じるかもしれません。
これは、組織横断的な再教育への投資を必要とする課題です。いずれの時点においても、すべての組織は、従業員に基礎的かつ学際的なAIスキルを提供するための全社的な研修プログラムを展開する必要があるでしょう。さらに、チームはプライバシー強化技術における特定のスキル向上に積極的に取り組み、AIに関する法的要件に適合するための、より包括的な技術的解決策を開発する必要があります。
AIのためにデータを準備する
データは、GenAIの基盤となるLLMの根幹をなすものです。これらのLLMは膨大な量のデータを利用し、元の入力に基づいて独自のデータを生成します。モデルに投入されるデータの品質と、そのデータの収集方法は、出力結果に影響を与えます。結局のところ、質の低いデータは質の低い出力につながり、AIの価値を損なうだけでなく、より深刻な場合には偏見を助長し、誤った結論や「ハルシネーション（幻覚）」を招くことになります。
AIモデルが使用するデータ量は増え続けており、一部のモデルでは、より高い精度を得るために特定のデータのサブセットを用いた再学習が必要になるでしょう。全体として、AIを効果的に導入するうえで、データのガバナンスと管理が極めて重要になります。
最終的には、AIモデルの準備と学習によって、組織はより精緻な予測を行い、新たなデータの関連性を発見し、より優れたインサイトを生み出すことが可能になります。データの品質、ラベリング、拡張から、データ保護とガバナンスに至るまで、企業はデータライフサイクル全体にわたってデータ管理プロセスを強化しなければなりません。高度なデータ分析ツール、厳格なデータ品質チェック、そして継続的なデータの改善と評価を重視する文化が、いずれも成功に不可欠となるでしょう。
偏りに注意する
データの品質は、AIにおける偏った不公正な慣行に対処するうえでも重要な課題です。一見中立に見えるプログラムが、開発者、学習担当者、またはデータ入力者の偏見を反映してしまう場合に、この問題が生じることがあります。
偏りのあるアルゴリズムは重大な問題をはらんでいます。アルゴリズムモデルに基づく差別は、人口の中で過小評価されている集団に、さらに大きな不利益をもたらすおそれがあります。研究によれば、こうしたAIを活用した採用における偏りは、ジェンダー、人種、性格特性に基づく差別的慣行につながりうることが示されており、その多くは限られた生データセットやアルゴリズム設計者の偏見に起因しています。
偏りの問題は多くの分野にまたがるものであり、とりわけプライバシーや平等に関する法律の文脈で重要です。AIにおける偏りへの対処には、技術的・人的な介入と、強固なガバナンスモデルが必要です。
技術を活用するが、技術だけに頼らない
多くの場合、技術は課題の解決に役立ち、透明性、プライバシー、データ品質に関連する課題への対処を企業にもたらします。
例えば、ゼロ知識証明（暗号プロトコルの一種）を用いると、データそのものを開示することなく、合成データを使って機密性の高い属性や事実を検証することが可能になります。合成データの生成技術が向上するにつれ、このような解決策は、データの透明性に関する課題への対処を一層後押ししていくでしょう。
さらに、暗号化や差分プライバシー（データセット内の個人のプライバシーを確保するための数学的枠組み）などのプライバシー強化技術を用いることは、データ漏えいの問題を軽減し、データを試行し新たなソリューションを構築するための、より安全な環境づくりに役立ちます。
技術は極めて重要である一方、AIに関する懸念を前向きな結果へと導くには、人間の関与が不可欠であることを忘れてはなりません。この文脈において人間が果たす役割は、機械には再現できない、必要な監督、倫理的な意思決定、そして社会的・文化的文脈の理解を提供することです。企業には、AIの出力を解釈し、倫理基準の遵守を確保し、企業および社会の価値観に沿うようAIシステムを継続的に改善するための、人間の専門知識が必要になるでしょう。
イノベーションと責任あるAIの両立
結局のところ、ビジネスリーダーには、責任あるイノベーションを促進し、この画期的な技術が規制によって停滞することなく、企業と社会全体にとって純便益をもたらす形で適用されるようにする責任があります。
AIをどのように導入するかは、企業としての価値観を映し出すものです。法規制にかかわらず、責任あるAIの本質は、価値を生み出しつつリスクを回避し、レピュテーション資本を守るために、数多くのトレードオフを慎重に見極めることにあります。これを透明性をもって行い、従業員を巻き込み、人材がこの取り組みに参加できるよう教育すれば、AIが人類のために機能することを確実にする重要な役割を担うことになるでしょう。
