医療AIに対する信頼は、特にセンシティブな分野において、導入の進展に遅れをとっている。
臨床医によるオーバーライド率のような主要指標は、患者がAIシステムへの信頼を築くために必要とする、最低限の実行可能な保証を導入することができる。
東南アジアの医療制度は、安全な医療AIを目に見える現実とするための事例を提供している。
AIは、症状チェッカーからセラピーボットに至るまであらゆるものを支え、医療におけるエンゲージメントの第一層として急速になりつつある。しかし、導入は信頼を上回るペースで進んでいる。デジタル化が進み、規制が整ったシンガポールでは、AIは広く普及しているが（住民の80%が利用）、助言がメンタルヘルスのような繊細または感情的に負荷の高い領域に及ぶと、信頼は急激に低下する。このパターンは東南アジア全体に共通しており、 インドネシアと香港では、4人に1人がAIによるメンタルヘルスツールを試したことがある、それでも安全性と共感性への懸念は続いている。世界的には、米国人の約60%が、AIを活用した診断に不安を感じている。ボトルネックはもはや技術的な正確性ではなく、感情的な保証の危機である。
この信頼の欠如は、先進的な導入事例にも見られる3つの体系的なギャップから生じている：
1.患者と臨床医は、AIのリスクスコアがどのように算出されるかを把握できないことが多く、信頼の根本的なギャップを生んでいる。この構造的な不透明性は、単なる不便にとどまらず、直接的な臨床上の影響をもたらし、患者への危害の主要因となりうる。例えば、OECD AI Incidents Monitorは、欠陥のあるAI設計が偏った結果につながった医療分野の事例を記録している。例えば、医療費を医療ニーズの代理指標として用いた結果、白人患者を黒人患者より意図せず優先してしまったシステムがある。この現実世界のリスクは、規制当局による監査、例えばnpj Digital Medicine2025年の研究では、FDA承認を受けたAI機器の90%超が、学習データやアーキテクチャに関する基本情報を報告していないことが明らかになった。判断の背後にある「なぜ」が見えないとき、安全性は推測の問題となる。
2. 説明責任。ITUのAI Governance Report 2025は、民間のAIモデルが公衆衛生のワークフローに導入される際、開発者、病院、省庁の間で責任がどのように分散するかを記録している。これは具体的な説明責任のギャップを生んでいる。エラーが発生した際に、明確な責任者が存在しないのだ。その結果、患者の苦情は官僚的な空白に陥りかねず、調査・説明・救済措置を講じる義務を負う単一の当事者が存在しないため、システム障害後の信頼は損なわれていく。
3. 人間による管理。AIが最初に診断を提案すると、従来の臨床ワークフローが逆転しうる。最近の研究では、臨床医がAIの提案した診断に関わる際、その役割は検証へと移行しており、受け入れるかどうかはモデルが推論を説明できるかどうかにかかっていることが確認されている。しかし、人間による監督という前提は、臨床医がAIの診断を必ず読み、そのうえで受け入れるか上書きするといった、明示的かつ運用可能なチェックポイントがなければほとんど意味をなさない。
認識された安全性が次のKPIである理由
医療において、デジタル上の信頼は有効性の前提条件である。デジタルメンタルヘルスの導入から得られたエビデンスは、AIに対する不安が、臨床的な正確性が高い場合でも、エンゲージメントの低下と早期離脱につながることを示している。利用者が離脱するのは、モデルが誤っているからではなく、体験が安全ではないと感じられるためである。
AIには、真の意味で共感を体験する能力がないため、信頼は人間のようなつながりを持つ能力を基盤として築くことはできない。その代わりに、人間とAIの相互作用に関する研究が明らかにしているように、信頼は患者の脆弱性への配慮を通じて築かれる。それは予測可能性、明確さ、利用者による制御によって定義される動的なプロセスである。これには、次の3つの要素を明確にすることが求められる：
使用されるデータ。2024年の研究（掲載誌：Nature Medicine）は、AIの関与に対する認識が医療助言への信頼を低下させるという直接的なエビデンスを提供しており、データの流れが不明確であることが、機微な情報を開示する意欲を大幅に低下させることを示している。
意思決定の方法。最近、Natureによる透明性監査が体系的な構造的不透明性を確認した。FDA承認を受けた医療AI機器の90%超が、学習データやアーキテクチャに関する基本情報を報告していないことが判明しており、これは推奨内容の知覚される正確性を根本的に損なうものである。
人間が関与する場合。AIの責任ギャップに関する最近の研究は、多くの「ギャップ」が、責任ある主体がまったく存在しないという問題ではなく、多数の関係者や機関にわたる説明責任の分散という問題であることを示している。その文脈において、有意義な異議申し立ての経路、すなわち患者がAIを活用した判断について説明を求め、審査を求め、必要に応じて修正を求めるための明確な手段が、診療の現場で説明責任を回復するための実践的な仕組みとなる。そのような救済手段の利用可能性は、利用者の公平性や信頼に対する認識を大きく左右する。
東南アジアにおける実践による信頼の証明
医療制度は、紙の上で信頼を設計することから、実践においてそれを示すことへと移行しつつある。これらの改革は安全性を目に見えるものにし、信頼を約束から証明へと転換させている：
シンガポールの最新の改革には、HPRG Innovation Officeが、AI診断のための機敏な経路を統合し、導入前に実証可能な監査証跡とサイバーセキュリティ体制を求めている。その取り組みの一つがSaMD Change Management Programmeである。国境を越えた協力も拡大しており、Singapore-Malaysia Medical Device Regulatory Reliance Programmeが、共同の監督を活用して評価を加速させている。
インドネシアは、アシュアランスの原則を最前線の医療に組み込むための基盤づくりを進めている。そのBPJS Digital Health Transformation Strategyは、将来のAIを活用したトリアージに必要な統合デジタルインフラを整備している。
マレーシアの急速なデジタル化は、156の公立診療所を支えるクラウドベースのシステムを含み、観察可能なパフォーマンスのためのデータ基盤を構築している。そのASEAN議長国の任期中、同国は倫理的なAIに関する地域協力を優先し、安全性と追跡可能性を利用者体験の中核に据える枠組みを推進してきた。
香港は、信頼できるデータ共有のための基盤インフラを整備しており、これは監査可能で追跡可能なAIのための重要な技術基盤である。今年1月には、香港中文大学と香港科学園が主導するコンソーシアムが、同地域初となる越境型医療データ空間の設立を発表した。この取り組みは、分散型の運用と暗号技術によって、安全かつ信頼性の高いデータ処理を確保することを明確に目的としている。
最低限の実行可能な保証の導入
大規模な信頼の構築には、最低限の実行可能な保証、すなわちガバナンス原則を目に見える利用者向けの安全性のシグナルに変えることが必要である。すでに手の届く範囲にある3つの指標がこれを可能にする：
臨床医によるオーバーライド率。実世界の導入から得られたエビデンスは、臨床医がAIの推奨を拒否する頻度を追跡することが、モデルの信頼性の実用的なシグナルとなることを確認している。AI信頼の枠組みを開発した2025年のDiagnostics誌の研究では、オーバーライドのパターンが臨床医の懐疑心を直接示す指標であることが明らかになった。信頼でき透明性のあるAI予測では、オーバーライド率はわずか1.7%であったのに対し、不透明なAI予測では73%を超えた。これは、オーバーライド率が有形の現実世界の安全性指標として機能することを示している。
監査証跡の可視性。WHOによるAI for Healthに関するガイドラインは、監査と人間による監督のための仕組みを義務付けており、モデルレベルのログ記録と検証可能な説明責任のための基礎的な要件を生み出している。この原則はEU AI Actにも反映されており、シンガポールのMOH TRUST環境のようなプラットフォームで運用されることで、説明責任を利用者が検証できるものとしている。
患者の理解度スコア。明確さは、患者が推奨された行動に従うかどうかに直接影響する。服薬指示からデジタルケアにおける自己管理の手順に至るまでである。患者が自らの理解を確認する単純な「ティーチバック」チェックポイントは、この原則を測定可能な保証のシグナルへと転換しうる。患者がAIの推奨に基づいて行動する前に理解度を検証することは、安全性と信頼のための具体的なチェックポイントとなる。
リーダーのための新たな政策課題
各国が医療制度全体にAIを導入する中、新たな優先事項がガバナンスを導く必要がある。それは、主要な業績指標としての患者の信頼である。これには、技術的な有効性のみを測定することから、人々の信頼感を評価することへの根本的な転換が求められる。
現行の評価は依然としてモデルの正確性と効率性を優先している。しかし、実世界での導入は、ツールが利用者にとって安全かつ公平だと感じられるかどうかにかかっている。このギャップを埋めるため、政策は技術的検証と並行して継続的な信頼の保証を義務付け、一度限りの監査から、実世界への影響の継続的なモニタリングへと移行しなければならない。
重要な措置には以下が含まれる：
公平性の実践：高齢者や低所得層における利用率の低さを、無料ツールであっても体系的に追跡し、対処すること。
目に見える救済手段の構築：患者がAIの出力に疑問を呈し、または異議を唱えるための明確な経路を確立し、規制遵守を有形の利用者による制御へと転換すること。
デジタルへの抵抗感への対応：特にメンタルヘルスの分野では、提供者と患者のためらいによって、AIが橋渡しから障壁へと変わり、アクセスの格差を広げかねない。
フォーラムが、協働を通じて医療制度の強化を進めるリーダーを支援する方法
健康・ヘルスケアセンターは、アクセス、公平性、レジリエンス、準備態勢を含め、世界中の医療制度が直面する課題を理解できるよう、リーダーをつなぐ。
信頼に基づく対話と官民協働を通じて、センターはパートナーが共通の優先事項に向けて足並みをそろえ、医療アウトカムの改善に向けた集団行動を推進できるようにしている。
デジタルヘルスの次の段階は、研究室でのアルゴリズムの性能ではなく、診療現場における信頼によって定義されるだろう。ガバナンスは文書化されるだけでなく、体験されなければならない。AIがその約束を果たすためには、すべてのやり取りに信頼が組み込まれなければならない。
