32,000件を超えるスキャンを対象とした研究では、放射線科医がAIツールの判断を覆したのは約2%の症例でしたが、その判断が正しかったのは十件中九件近くに上りました。
EU、韓国、ベトナムなどで新たに施行されているAI法は、AIの判断を監督し、覆す責任を個人にますます強く負わせています。
この判断に基づくAIガバナンスは経験によって研ぎ澄まされ、重大な意思決定能力は55歳から65歳の間にピークを迎えます。
クアラルンプールの市街地で、銀行の上級マネージャーであるダイアナは、機械が下す判断に自身の名を連ねています。融資モデルが申請を承認または否認する際、規制当局が誤りの責任を問うのは彼女です。
ダイアナは単に承認にサインする審査者ではありません。彼女はモデルに問いただし、疑わしい出力に印をつけ、是正の責任を負います。銀行は来期により優れたAIモデルを購入できるかもしれませんが、ダイアナがもたらす洞察を同じように容易に購入することはできません。
経営委員会や取締役会は依然として、AIガバナンスを主に技術の問題として扱っています。システムを調達し、人間をループに組み込み、そのうえで監査人を満足させる、という考え方です。
この一連の流れに空虚さを感じるなら、それはあなただけではありません。「ヒューマン・イン・ザ・ループ（人間の関与）」という言葉は、もっと難しい問いを投げかけることなく繰り返される安心材料となっています。その問いとは、モデルと状況が食い違ったとき、その人物は本当に賢明な判断を下せるのか、というものです。AIガバナンスにおいて、モデルこそが難しい部分だったことはありません。判断力こそがより重要であり、現実の重大性がありながら出力が誤っているときにそれを見極められるダイアナのような人物を任命することが不可欠なのです。
判断に基づくAIガバナンスが導入されつつある地域
欧州連合（EU）のAI法は2024年8月から施行されており、第14条により、高リスクシステムにおいて、指定された人物がその出力を監督し、疑問を呈し、覆すことができるよう求めています。シンガポールのMASは、融資、リスク、不正に関する判断について取締役会と上級経営陣に責任を負わせるリスク管理ガイドラインを提案しており、現在は公開協議を経ています。韓国のAI基本法は2026年1月から施行されており、影響の大きいAI事業者に対し、安全性と透明性に関する義務を課しています。マレーシアが提案している人間による審査を受ける権利では、審査者が機械の判断を覆す権限と能力を持つことが求められます。
ベトナムのAI法は2026年3月から施行されており、最も踏み込んだ内容となっています。AIを監督・管理する人間の仕組みを妨害または無効化することを禁じており、過度な依存によって判断力が衰えることを容認すれば、それ自体が法律違反となりうることを示唆しています。
次に、ルールが存在しない場合との違いに注目してください。
オーストラリアは、これまでのところ民間部門を対象とした独立したAI法の制定を見送っており、ニュージーランドも同様に規制を最小限に抑えた道をとっています。これはリスクに関する自然実験といえます。シンガポール、ベトナム、韓国、マレーシアでは、監督の不備が、制裁、ライセンスの喪失、指名された役員への個人的責任といった法的・懲罰的リスクとなりつつあります。
オーストラリアとニュージーランドでは、そうした措置の欠如が評判上のリスクとなっています。多くの企業では、法的リスクには独立した予算項目、取締役会の議題、そして指名され訓練を受けた人材が割り当てられる一方で、評判上のリスクは単に政策文書と事後対応計画が割り当てられるにすぎません。前者は人間の判断への投資を迫るのに対し、後者は問題に直面したときにようやく対処しようとします。
フォーラムがリーダーのAIに関する理解と責任あるイノベーションへの協働をどのように支援しているか
AI卓越性センターは、業界を超えてリーダーをつなぎ、急速に進化する人工知能と、それが経済や社会に及ぼす影響について理解を深めます。AI導入に伴う機会、リスク、トレードオフについて、情報に基づいた対話を支援します。
信頼できる場や協働イニシアチブを通じて、センターはパートナーが共通の理解を築き、AIの革新と利用における責任あるアプローチに共に取り組めるよう支援しています。
認知的主権とAIガバナンス
では、これらの法律は、ループ内に置かれた個人に対して実際に何を求めているのでしょうか。説明責任を負う人物は、パターンから外れた事例を見つけ出し、自信に満ちた出力に疑問を投げかけ、顧客の利益、企業のリスク、規制当局の意図を同時に見極めなければなりません。そのうえで、不確実な状況の中で判断を下すのです。
これが認知的主権です。すなわち、機械から距離を置き、長年の経験によって培われた高次の状況判断を行う能力です。このような能力は、組織において急速に希少で高価な知的資源になりつつあります。
実際の研究では、32,000件を超えるスキャンを対象に、放射線科医がFDA承認済みのAIツールの判断を覆したのは約2%の症例でした。そして両者の判断が食い違った場合、人間の判断が正しかったのは十件中九件近くに上りました。モデル単独では、確認された血栓を数百件見逃していたことになります。価値があったのは日常的な一致ではなく、人間が捉えた稀で難しい事例にこそありました。
ここで、脳の加齢に関するよく知られた話は逆になります。AIガバナンスに求められる判断力は、経験とともに衰えるどころか、むしろ研ぎ澄まされうるのです。
2026年に『Scientific Reports』に掲載された縦断研究では、Scientific Reports約4,000人の成人を追跡調査し、年齢を問わず脳の健康が向上する既知の上限は見当たらないことが分かりました。2025年に『Intelligence』に掲載された分析では、重大な意思決定の基盤となる総合的な機能は55歳から60歳の間にピークを迎える傾向があり、そうした役割に最も適した人は、40歳未満や65歳超であることはまれであることが分かりました。Center for BrainHealthのサンドラ・ボンド・チャップマン博士は、過去のパターンを新たな問題と結びつける統合的推論を、当センターの「プラチナ」の認知機能と呼んでおり、この機能は55歳から65歳の間に特に優れた能力を発揮することが多いと述べています。私は成人の脳の発達の流れについて、より詳しく書いてきました。
これらはいずれも自動的に起こるものではありません。年齢それ自体が能力を与えるわけではありません。これらの能力は意図的に訓練されることで伸びるものであり、慢性的な過負荷や睡眠不足、また、洗練された答えだからといって安易に見過ごしてしまうという繰り返しの誘惑によって衰えることもあります。
最後に挙げた誘惑には名前があります。研究者はそれを自動化バイアスと呼び、数十年にわたる研究では、それが初心者と同様に専門家にも同じくらい起こることが示されています。あるレビューでは、機械の誤った助言によって、人間の誤った判断が約4分の1増加したことが分かりました。なぜでしょうか。
AIの洗練された出力は、脳が一時停止の標識を見るほど強い「正しさ」の感覚を生み出すことがあり、その結果、高次の思考が始まらなくなります。経験の豊富さは盾にはなりません。実際、最も影響を受けやすいのは熟練した経営幹部である場合もあります。長年の経験が、すべてが正しく見えるという追加のシグナルを与えるため、自信に満ちた出力によって、苦労して得た知恵が能動的な判断として働くことを妨げかねないのです。
AIガバナンスが技術の問題ではない理由
AIガバナンスを技術の問題として扱うことは、高くつく誤りになりかねません。
多くの組織は、より優れたモデルに多額の投資を行う一方で、それを監督すべき人材への投資を怠りがちです。最も優秀な人材が、「全盛期を過ぎた」とみなされ、退職へと追い込まれることもあり得ます。私たちは、システムを購入する一方で、監督を枯渇させるリスクを負っているのです。
ダイアナの一年は平凡に見えました。大きな昇進はなく、しかし彼女は、組織が欠かすことのできない役割に就きました。銀行が取り替える人物ではありません。むしろ、失うことができない人物なのです。
取締役会は、もはや人間がループ内にいるかどうかを尋ね、そのチェックボックスにチェックを入れるだけでは済みません。重要な局面で、その人物が認知的主権をもって行動し、システムを凌駕する判断を下せるかどうか、そして、その人物がそのように判断できるよう誰かが投資しているかどうかを評価しなければなりません。
依存しているものを統治することはできません。
