各国政府はAI規制の策定を急いでいる。
提案されているAI規制では、透明性、安全性、公平性が重要な焦点となっている。
大規模言語モデルやその他の生成技術を含む現在のブラックボックス型アプローチは、さまざまなユースケースで規制に準拠できない可能性が高い
英国政府は最近、AI規制への取り組み方針を示す白書を公表した。この白書の目的は、「AI技術の利用に関するガードレールを設ける一方で、イノベーションの継続を可能にし、その恩恵が広く行き渡るようにすること」だ。このアプローチは、以前のアジェンダ記事で紹介されたEUの人工知能（AI）法の狙いとよく一致しているほか、ホワイトハウスによる最近の記事や発表とも歩調を合わせている。
多くの規制は、AIに関する同様の根本的な課題への対応を目指している。AI規制の主な焦点を示す例として、英国を取り上げる。重要な原則は5つある。
1. 安全性、セキュリティ、堅牢性
2. 透明性と説明可能性
3. 公平性
4. 説明責任とガバナンス
5. 異議申し立てと救済
最も重要な意思決定にAIを活用しようとする企業にとって、とりわけ現在のブラックボックス型AIアプローチでは、こうした要件への対応がますます難しくなる。大規模言語モデル（LLM）を含む生成AIなど、最も期待される分野でさえ、これらの要件を満たすにはまだ遠い。たとえば最近、ChatGPTは乳がんについて誤った助言をした。これが意思決定に使われていたら、大きな影響を及ぼした可能性がある。したがって、AIがもたらす恩恵を最大限に得たい企業は、より幅広い選択肢に目を向ける必要があるかもしれない。
因果AIとは何か？
因果AIは、AIというより広い分野の中で新たに発展している領域だ。前述の原則と自然によく合致する。因果AIの基本的な考え方は、データに含まれる原因と結果の関係を学習し、それをAIモデルの出力に反映させることだ。これは、LLMなど現在最先端の機械学習（ML）モデルが採る手法とは大きく異なる。大量のデータを取り込み、パターンを学習して、次のパターンを予測する。
因果AIは、AIというより広い分野の中で新たに発展している領域だ。前述の原則と自然によく合致する。因果AIの基本的な考え方は、データに含まれる原因と結果の関係を学習し、それをAIモデルの出力に反映させることだ。これは、LLMなど現在最先端の機械学習（ML）モデルが採る手法とは大きく異なる。大量のデータを取り込み、パターンを学習して、次のパターンを予測する。
LLMについて考える一つの方法は、質問への答えを提示するというより、実際には「人々がこのような質問をすると、たいてい他の人はこんな答えをする」と伝えていると捉えることだ。これが、事実に関する情報を尋ねられたときにLLMが「幻覚」を起こしやすい理由を説明している。LLMやその他の生成モデルは、既存の文章を改善したり、作品を生成したりする用途などでは、生産性を大幅に高められる。しかし、企業内のミッションクリティカルな意思決定にこれらのツールを使うことには大きな課題があり、導入される規制に準拠する可能性も低い。
これに対し、因果AIモデルは、その構築方法により本質的に説明可能だ。特定の出力に至った理由を問い、説明を得ることができ、公平性やバイアスも容易に評価できる。さらに、モデルは人間の指導を取り入れて構築されることが多く、それによって説明責任、ガバナンス、異議申し立て、救済が可能になる。
因果AIはどのような課題の解決に役立つのか？
因果AIのツール群は、企業に大きな恩恵をもたらし得る。因果AIは最近、ガートナー®「新興技術のハイプ・サイクル™ 2022」にも取り上げられた。
因果AIモデルが特に得意とする質問には、次のようなものがある。
• この融資申請を承認すべきか、却下すべきか。そう判断する理由は何か？
• 顧客が離反する原因は何か。顧客にとどまってもらうには、どのような対策を講じられるか？
• 製造工場でこの問題が起きた原因は何か。今後の問題を防ぐには、どのような対策を講じられるか？
因果AIが現在導入されている分野の例を挙げる。
ヘルスケア
因果AIは、さまざまな病状や治療結果の原因と影響を特定するのに役立つ。たとえば、異なる治療介入が患者の転帰に及ぼす影響をシミュレーションできるため、医療従事者は代替治療の有効性を評価し、患者ケアについて十分な情報に基づいた判断を下せる。
金融
因果AIは、金融分野のリスク評価や意思決定に役立つ。経済要因、市場の出来事、投資成果の因果関係を分析できる。たとえば、市場の変動性の原因について知見を示し、規制変更が金融市場に及ぼす影響を評価し、不正行為につながる要因の特定を支援できる。
製造
因果AIは、製造プロセスの最適化や問題の予防に利用できる。工程の調整、設備の更新、サプライチェーンの変更による影響をシミュレーションし、製品品質の向上、欠陥の削減、生産効率の最適化に最も有効な対策を特定できる。
顧客体験
因果AIは、顧客行動の理解と満足度の向上に重要な役割を果たし得る。顧客離反の要因を特定し、顧客の嗜好の背後にある因果要因を明らかにし、顧客体験を高めるための個別対応策を提案できる。これにより、企業は顧客のニーズにより効果的に応えるよう、製品、サービス、マーケティング戦略を調整できる。
因果AIはなぜ今後ますます重要になるのか？
完全なデータドリブン経営を目指し、必要な規制を順守しようとする企業は、利用可能なAI技術を幅広く活用する必要がある。生成AIもその一部となるべきだが、企業が真の変化を生み出せるユースケースすべてを網羅するわけではない。因果AIによって企業は、顧客や社会全体に大きな影響を与える意思決定を含め、最も重要な業務に活用できるソリューションの創出に着手できる。
GARTNERは、米国および国際的に、Gartner, Inc.および／またはその関連会社の登録商標およびサービスマークです。また、HYPE CYCLEは、Gartner, Inc.および／またはその関連会社の登録商標であり、本書では許可を得て使用しています。無断複写・転載を禁じます。
