AI：企業にとっての最大のリスクと管理方法

このページは、生成AIにより自動翻訳されています。

人工知能（AI）は、企業と社会に大きな恩恵をもたらすと期待されています。しかし、この技術がもたらすリスクを理解しなければ、重大な害を引き起こす可能性もあります。

これは、世界経済フォーラムの「グローバルリスク見通し調査」に参加した、大手企業および国際機関の最高リスク責任者（CRO）の見解です。

この調査の詳細は、フォーラムの年央報告書である「最高リスク責任者の見通し」で示されており、リスク管理がAI技術の急速な進歩に追いついていないと警告しています。

調査対象となったCROの4分の3は、AIの利用が自組織にとって風評リスクになると回答し、10人中9人は、AIの開発と利用を規制するためにさらなる取り組みが必要だと答えました。

ほぼ半数のCROは、リスクがよりよく理解されるまで、新しいAI技術の開発を一時停止または減速させることに賛成していました。報告書は、AIが「組織が事業を行う上で、複雑で不確実な環境を生み出している」と述べています。

「ここ数か月、特に生成AI技術が遂げている指数関数的な進歩への関心の急上昇を背景に、技術関連リスクに関する議論が急増しています。」

大きな恩恵と大きな害

AI技術は、農業、教育、医療などの分野で「大きな恩恵」をもたらす可能性がある一方で、「大きな害を引き起こす力も持っている」と報告書は述べています。

CROが特定した最大のリスクの一つは、AIの悪用です。生成AI技術は利用が容易であるため、誤情報を広めたり、サイバー攻撃を助長したり、機微な個人データにアクセスしたりしようとする人々に悪用される恐れがあります。

AIを深刻なリスクにしているのは、その「不透明な内部の仕組み」です。報告書によると、AIコンテンツがどのように作成されるのかを完全に理解している者はいません。このことは、CROが指摘する、個人データの意図しない共有や、AIアルゴリズムに基づく意思決定における偏りのリスクを高めています。

AIの急速な台頭がもたらすリスク。これがCROの考えです。Image: 世界経済フォーラム

AIの仕組みが明確でないことは、将来のリスクを予測することも困難にする、と報告書は付け加えています。一方でCROは、AIによるリスクが最も高い事業分野は、業務、ビジネスモデル、戦略であると述べています。

調査対象者全員が、AIの開発が、その潜在的な倫理的・社会的リスクを管理する能力を上回っていることに同意しました。また43％は、その潜在的影響がよりよく理解されるまで、新しいAI技術の開発を一時停止または減速させるべきだと回答しました。

CROの過半数は、規制が自組織にどのような影響を与える可能性があるかを理解していると回答し、90％は、AI開発の規制に向けた取り組みを加速させる必要があると回答しました。

CROの半数以上が、安全性、合法性、「倫理的な健全性」を評価するため、組織内で既に使用されているAIの監査を実施する計画です。ただし、一部のCROは、経営幹部がAIを事業リスクとして捉えることに消極的だと述べています。

CROは、AIの規制をより速く進める必要があると述べています。Image: 世界経済フォーラム

見通し報告書に寄稿したCROの一人である、チューリッヒ保険グループのグループ最高リスク責任者ピーター・ジガー氏は、リスクを無視するのは誤りであり、企業はより広く長期的な視点でアプローチする必要があると述べています。

「今後6か月ほどの間に支配的になりそうなリスクに対して、あまりに多くの、あまりに狭い焦点を当てると、将来を左右する大きなリスクへの対応から容易に気をそらされてしまいかねません」と同氏は述べました。

「AIは、長期的思考のアプローチが望ましいことを示す好例です。AIは今日、私たちの生活を根本から変えるでしょうか。おそらく変えないでしょう。多くの人にとって、差し迫った脅威ではありません。しかし、AIが時間の経過とともにもたらす影響や傾向を無視することは、重大な誤りになるでしょう。」

6月、フォーラムはAIの責任ある開発に関する提言を発表しました。この提言は、開発者にさらなるオープン性と透明性を求め、より正確で共通の用語を用いるよう促すものでした。

このガイダンスはまた、テクノロジー業界に対し、AIの能力と限界に関する一般の理解を深める取り組みを強化するとともに、社会の懸念やユーザーからのフィードバックをより重視することで信頼を築くよう求めています。

フォーラムの「AIガバナンス・アライアンス」について詳しくは、こちらをご覧ください。

グローバルリスク見通し調査は、フォーラムのCRO コミュニティを対象に実施されました。このコミュニティには、テクノロジー、金融サービス、医療、専門サービス、産業製造など幅広い分野の多国籍企業のリスク専門家が含まれています。

AI以外では、回答者は、マクロ経済環境、主要原材料の価格および供給の混乱、武力紛争、規制の変更を、組織にとっての主要な懸念事項として挙げました。

ライセンスと再掲載について

世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。