生成AIは、意思決定の場面での適用という点で限界に直面している。
相関関係や事象のパターンの認識に依存する生成AIに対し、因果AIは、その背景にある原因と結果をより深く理解することを基盤としている。
生成AIと因果AIを組み合わせることで、速い思考と遅い思考の利点が融合し、迅速かつ正確な意思決定が可能になる。
生成AI（genAI）は、この18か月間に大きな可能性を示し、テクノロジー界全体で大きな期待を集めてきた。とりわけ大規模言語モデル（LLM）は、人間のような会話を行い、質問に答え、筋の通った創造的な文章さえ作成できることから、実質的に「チューリングテスト」に合格したと主張する人もいる。チューリングテストは、機械知能を評価するために長年用いられてきた基準である。
こうしたことから、人類は汎用人工知能（AGI）に向かって進歩しており、生成AIだけでそこに到達できると結論づける人も多い。しかし、現在の企業でのユースケース、特に意思決定に関わる用途において生成AIが成果を上げられていないことは、LLMが優れた技術であっても、AIの万能薬ではないことを示している。短期的には、意思決定に関わる企業ユースケースにAIを活用するため、より包括的な視点が必要であり、長期的にはAGIの開発にも同様の視点が求められる。
LLMは自然言語を確率の言語に変換し、それを使って出力を生成する。プロンプトを与えられると、LLMは次に来る可能性が統計的に最も高い単語を出力する。知識は確率に基づいて生成される。一方、人間の知識の大半は確率的な関係ではなく、因果関係として表現されている。「症状が病気を引き起こすのではない」「灰が火を起こすのではない」といった事実を例に考えてみよう。人間はこうした因果関係を使って世界を推論し、意思決定を行う。LLMが用いる確率的な言語には、原因と結果という概念がない。
そのため、LLMが推論や批判的思考、真の理解を示す場面でしばしば力不足となるのも不思議ではない。こうした理由から、LLMは多くの企業ユースケースで十分な成果を上げられない。幻覚、バイアス、透明性の欠如、解釈可能性の限界があるため、企業はLLMを意思決定に使うことに慎重になっている。
意思決定のユースケースにLLMを適用する難しさは、短期的に企業での導入が進まない理由を浮き彫りにするとともに、LLMだけでAGIへの道が開けるのかを考える際の課題も示している。より大規模な言語モデルや学習データの増加では、この隔たりは埋まらない。AIには、原因と結果に関する推論など、追加の能力が必要だ。
人間の脳とシステム2思考
AIの全体像を捉えるうえで有効なのは、現在のアプローチを、人間が学び、情報を処理し、出力を生み出す方法と比較することだ。この点をより深く理解するために、現代のAI技術と人間の脳の働きを直接比較できる。
脳には今なお多くの謎が残されているが、その複雑な働きを説明するための枠組みを研究者たちは提案してきた。ノーベル賞受賞者のダニエル・カーネマンが著書『ファスト＆スロー』で紹介した枠組みは、現在のAIの状況と特に興味深い類似点を持つ。
カーネマンの枠組みでは、人間の脳は「速い思考」と「遅い思考」という2つの異なるモードで働く。速い思考、すなわちシステム1思考は、無意識に生じる迅速で連想的、直感的なプロセスを特徴とする。見慣れた画像や状況に接すると、脳は過去の経験やパターンに基づいて即座に反応する。これに対し、遅い思考（システム2）は、意識的かつ論理的、分析的に情報を処理するモードだ。複雑な問題や、慎重な推論と熟考を要する新しい状況に直面したときに働く思考である。
膨大なデータを処理し、人間のような応答を生成できる生成AIは、速い思考のモードに似ている一方で、遅い思考を特徴づける深い推論能力を欠いている。真の知能には両方のモードがシームレスに統合される必要があると考えるなら、現在のAI技術では不十分であることが明らかだ。この隔たりを埋めるには、人間の推論に特徴的な、ゆっくりとした論理的・分析的思考を再現する新たなアプローチが必要となる。
因果AIが明らかにする「なぜ」
因果AIは、因果関係を理解し、それについて推論できる機械の開発に焦点を当てる新興分野であり、この隔たりを埋め始める技術の一つだ。相関関係やパターンに依存する従来のAIアプローチとは異なり、因果AIは、世界を支配する根本的な因果構造を明らかにすることを目指す。
データから因果関係に関する情報を学習し、それを使って世界について推論することで、因果AIは人間が遅い思考を働かせるときの考え方により近い形で動作する。AIはパターン認識を超えて、パターンの背後にある「なぜ」の理解へと進むことができる。
因果AIの主な利点の一つは、想像力、すなわち反実仮想推論を可能にすることだ。「もしも」と問い、別のシナリオを探る能力である。これは人間の意思決定に欠かせない側面だが、今日のAIにはまだ欠けている。例えば医療分野では、因果AIシステムが患者データを分析し、別の治療を受けていた場合や特定のリスク要因がなかった場合に患者の健康状態がどう異なっていたかを予測する反実仮想を生成できる。
因果AIは、AIにおけるバイアスの問題への対処にも役立つ。変数間の因果関係を明示的にモデル化することで、偏った予測につながる可能性のある見せかけの相関や関連性を特定し、軽減できる。例えば信用リスク評価では、信用力に影響する真の因果要因と、データに含まれる過去のバイアスによって生じた見せかけの相関を、因果AIシステムが区別できる。
企業の意思決定の未来
企業の意思決定における重要な課題は、提案する行動の根拠を確かなものとし、最適なものにしながら、「速い」思考を実現することだ。生成AIと因果AIを統合すれば、前者による迅速で直感的な分析を活用しつつ、後者から得られる確かな体系的洞察に基づいて意思決定を行える。因果AIを活用することで、企業はあらゆる因果関係に関する課題に取り組める。因果AIと生成AIの融合は、スピードと正確性という二つの利点を企業にもたらし、複雑な意思決定を自信を持って迅速に進められるようにする。
小売業界のリーダーが、価格調整による販売量への影響と、それに伴うサプライチェーンへの影響を評価しようとしている場面を考えてみよう。従来の方法では、さまざまなプラットフォームやダッシュボードを横断した大規模な分析が必要となる。しかし、生成AIと因果AIを組み合わせれば、同じ幹部がこの質問をLLMに入力し、LLMが高度な価格設定およびサプライチェーンの因果モデルを適用して有益な分析を提示できる。このアプローチは、過去の行動がもたらした直接的な結果を明らかにするだけでなく、将来のシナリオを探ることも可能にし、戦略立案と意思決定を支援する。
生成AIと因果AIの連携により、自然言語での質問と応答に加え、詳細で理解しやすいテキストによる説明が可能となり、意思決定のプロセスが豊かになる。この統合は因果関係の調査と理解に役立ち、信頼性、拡張性、説明可能性を備えた意思決定戦略の枠組みを企業にもたらす。生成AIを因果AIで強化することは、迅速な分析能力と深い因果理解を組み合わせ、企業の意思決定に革命をもたらす。
世界経済フォーラムは、人工知能のガードレールをどのように構築しているのか？
AIエクセレンスセンターは、人工知能の急速な進化と、それが経済や社会に及ぼす影響を理解するため、さまざまな分野のリーダーを結びつけている。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援する。
信頼できる場と協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に向けた責任あるアプローチに協力して取り組めるようにする。
生成AIは、企業全体の意思決定ユースケースに必要な確かな根拠を欠いている。因果推論と、それによってAIシステムに論理的な（遅い）思考を可能にする潜在力を活用すれば、企業がAIを適用できるユースケースの数は大幅に増える。AGIにはこれ以上のものが必要となるが、因果AIは正しい方向への一歩である。
