AIは数学オリンピックで優勝できるが、時計を読むことすらできない。なぜそれが重要なのか、以下に説明する。

ニューラルAIネットワークの抽象的なイメージ
あるタスクをこなせるAIモデルでも、他のタスクでは失敗することがある。これは「ギザギザ知能」と呼ばれる現象によるものである。画像: ゲッティイメージズ/iStockphoto
このページは、生成AIにより自動翻訳されています。
  • 大規模な言語モデルは推論を模倣することには長けているかもしれないが、単純な因果関係を推論することには苦労する。ニューロシンボリックAIは、この難題を解決するのに役立つ可能性がある。

人工知能(AI)モデルが国際数学オリンピックレベルの問題を難なく解く一方で、アナログ時計で正確な時刻を知ることができないというのは、直感に反するように思えるかもしれない。

しかし、これは実際に起こったことだ。Google DeepMindのGemini Deep Thinkは、2025年の国際数学オリンピックで35点を獲得し、金メダルを獲得した。しかも、すべて自然言語で思考しながらだ。 スタンフォード大学の2026年AIインデックスレポート。

視覚推論AIベンチマークClockBenchでテストされた同世代の最良モデルは、時計を正しく読み取ったのはわずか50.6%で、人間の90.1%と比較すると低い。モデルが失敗すると、 1~3時間の休暇一方、人間の場合は約3分の誤差が生じるだろう。

この矛盾に対処する有望な解決策の一つは、ニューロシンボリックAIである。これは、ニューラルネットワークのパターン学習と、記​​号システムのルールに従う論理を組み合わせたものである。

ギザギザしたAIが運用上のリスクとなる理由

大規模言語モデル(LLM)は、推論を模倣する能力が非常に高くなっており、そのため企業は日常業務にLLMを組み込んでいる。LLMは、優れたコード、簡潔な文書要約、独創的な数学的証明の作成に役立つ、長い思考の連鎖を生み出す。しかし、LLMが依然として苦労しているのは、周囲の世界の特性を確実に識別したり、単純な因果関係に基づいて推論したりすることである。

あるタスクを達成できるAIモデルでも、他のタスクではひどく失敗することがある。研究者たちはこれを「ギザギザした知能「ギザギザのフロンティア」とも呼ばれ、予測不可能な 人間に適した作業と機械に適した作業の境界。

これは重要な点です。なぜなら、いつ何時でも不具合を起こす可能性のあるAIを中心としたワークフローを構築することは、企業の製品や業務に脆弱性を生み出すからです。また、モデルが契約書に架空の詳細を挿入したり、顧客の問題を誤解したり、コンプライアンス違反を引き起こしたりする可能性もあります。

リスクは測定可能です。実際、どのモデルも70.2%を超えるスコアを獲得していません。 τベンチAIエージェントがポリシールールに従いながらツールを使って現実世界のタスクをどれだけうまく完了できるかを測定するベンチマーク。モデルは現実世界のシナリオでも不十分です。Vals AIのベンチマークによると、 AIインデックスで報告された最良のモデルでも、住宅ローン税証明書から情報を抽出する際の精度はわずか69.4%、信用契約書などの長い金融文書では68.3%、初級レベルの金融アナリストの業務では63.3%にとどまる。

ビジネスリーダーにとって、これはAIの信頼性が管理すべき運用リスクであることを意味し、モデルの優れた結果は、自社のワークフロー内でどれだけ一貫して機能するかについての保証にはほとんどならない。

神経記号AIが登場する場面

その名の通り、ニューロシンボリックAIはニューラルネットワークとシンボリックAIを融合させたものです。ニューラルネットワークはデータ内のパターンを認識し、シンボリックAIは知識と推論の形式的な表現を用いて解決策を生み出します。この2つを組み合わせることで、それぞれの長所を最大限に活かすことができます。つまり、ニューラルネットワークで情報を処理し、シンボリックAIで推論を行うことで、検証可能な解決策が生まれるのです。

大型モデルであればこうした弱点を克服できると考えるのは容易であり、2025年のオリンピック金メダル獲得はその主張を裏付ける証拠と見なすこともできる。しかし、同じ世代のモデルでさえ、時計の読み取りといった一見単純な作業に苦戦しており、規模を拡大するだけでは信頼性の問題が解決されないことを示唆している。

記号推論は、複雑な知能の問題解決において大きな可能性を示している。パターン認識ではなくAIの計画能力をテストするために設計されたベンチマークであるPlanBenchにおいて、研究者たちは、問題の根本的な構造が難読化されている場合、ほとんどの最先端モデルがいくつかの領域で解決できる問題数が少なくなることを発見した。

OpenAIのGPT-5は、Blocksworldで45問中21問正解から12問正解に、Sokobanで15問正解から7問正解に成績が低下した。一方、DeepSeekのオープンソース推論LLMであるDeepSeek-R1は、Blocksworldで3問正解、FloortileとSokobanで0問正解に成績が低下した。しかし、記号ソルバーLAMAは、問題が難読化されているかどうかに関わらず、問題を解決する能力において一貫性を保っていた。 AIインデックスこれは、体系的なアプローチがより良い結果をもたらすことを示している。

主要な研究所が神経記号推論の実装を開始している。Google DeepMindの アルファジオメトリ ニューラル言語モデルと記号推論エンジンを組み合わせることで、オリンピックレベルの幾何学問題を解きながら、検証可能な証明を生成する。信頼性の高い製品は、今後ますますこのようなモデルに依存するようになるだろう。

規制とAIエージェントがリスクを高める

EUがAI関連法を施行したことで、AIに関する規制がどのようなものになるのかが見え始めています。2026年8月2日以降、欧州委員会は AI法の一部を施行しているこれには、人々がAIとやり取りしている際にその旨を通知することを義務付ける規則も含まれる。高リスクAIシステムに対するより厳格な規則は、2027年12月2日から適用される。

こうした要求が高まるにつれ、記号推論を用いて構築されたAIは、意思決定プロセスをより分かりやすく説明・文書化できるようになる。ニューラルネットワークはこれまでこの点で課題を抱えてきたため、記号推論を取り入れることで、より信頼性の高いAIを構築できる。

AIの未来は、企業のためにタスクを実行できるエージェントに焦点を当てたものとなるでしょう。これらのエージェントは、問題を深く考察し、信頼性の高い解決策を生み出す能力が求められます。ニューロシンボリックアプローチを採用することで、AIモデルが自らの行動の正しさを検証できるようになります。

企業はAIをどのように評価すべきか

これは企業にとって、これらの製品の購入を検討する際に評価方法を変更する必要があることを意味します。経営幹部は、自社の業務負荷を反映したAIベンチマーク上で、制約条件を適用した上でモデルがどのようなパフォーマンスを発揮するかを検証する必要があるでしょう。

また、概念実証によって、モデルがどのように問題を分析して自己修正できるかを確認できるようにする必要がある。モデルは、どのようにして答えにたどり着いたのかも示すことができなければならない。

AIの能力は進化を続けているものの、推論、一貫性、信頼性に関する問題は未解決のままだ。かつては、正確に思考できるものの信頼性に欠けるエキスパートシステムが存在した。そして今、信頼性は高いものの正確に思考できない深層学習が登場した。

ニューロシンボリックAIは、LLM(論理言語モデル)を、信頼性が求められるタスクにも十分対応できるレベルにまで高めることを可能にします。ニューラルネットワークに記号的思考をさせることで、企業は精度と信頼性の両方を実現できるのです。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。