医療AIへの信頼は現在、実際の医療現場よりもシステム設計に過度に依存しています。
臨床医と患者のニーズに応える医療AIへの信頼を根付かせるには、継続的なフィードバックの仕組みが必要です。
東南アジアの取り組みは、テクノロジーへの信頼を政策から実践へと広げる方法を示しています。
人工知能（AI）は、診断から病院運営に至るまで、医療を変革しつつあります。しかし、ガバナンスは後れを取っています。臨床現場での導入に不可欠なAIへの信頼は、依然として一様ではありません。多くの枠組みはシステム設計やコンプライアンスに重点を置き、患者や臨床医の日々の利用を通じて信頼が築かれる、医療ケアの実態を見落としています。
シンガポールの医療AIへの取り組みには、進展と課題の両面が表れています。2018年、シングヘルスへのサイバー攻撃は、同国で最悪級のデータ侵害の一つとなり、約150万人の患者記録が侵害され、重要インフラの脆弱性が明らかになりました。
2023年のYouGovの調査では、シンガポール在住者のうち、AIを活用したメンタルヘルスカウンセリングを利用すると答えた人はわずか14%でした。2021年、保健省は医療におけるAIガイドラインを公表し、説明可能性、人間による監督、リスクの伝達などの安全策を推進しました。これは、コンプライアンスの徹底にとどまらず、信頼を根付かせるための一歩です。
こうした進展は、より広範な要請を示しています。ガバナンスは固定的な基準を超え、導入段階の信頼形成サイクルを取り入れる必要があります。これは、臨床現場の実態に合わせて変化する、動的で状況に応じた仕組みです。医療のガバナンスは、法律で定めるだけでなく、応答性と可視性を備え、現場に組み込まれなければなりません。
信頼は後付けできない
放射線科医が、AI生成の画像診断結果を受け入れる前にためらう。看護師がAI生成のトリアージ警告を覆す。患者が「私のデータを見るのは誰ですか」と尋ねる。この3つの例は、必ずしもシステムのエラーではなく、シグナルです。システムが実際のニーズに合わないと、信頼をめぐる摩擦が生じます。「設計段階からの信頼づくり」は役立ちますが、ガバナンスは思い込みではなくフィードバックに導かれ、継続的に行われなければなりません。
2025年のnpj Digital Medicineの見解によると、継続的なモニタリングのパイプラインや再学習のワークフローは、急速に主要な運用コストとなっています。また、データパターンの変化（「データドリフト」）への調整は、専任のエンジニアリングチームを持たない組織にさらなる負担をもたらします。こうした知見は、拡張可能で状況に応じた導入段階の信頼形成サイクルが必要であることを裏付けています。そうでなければ、十分なリソースを持つ医療機関と小規模病院との能力格差が広がるおそれがあります。
運用における信頼とは？
運用における信頼とは、実際の臨床環境でAIシステムがどの程度適切に機能するかを指し、透明性と説明責任があり、現場のスタッフが使いやすいことを含みます。具体的には、次の要素があります。
状況に応じた説明可能性：若手の臨床医は、AIの出力をリアルタイムで理解し、異議を唱えられるでしょうか。
2025年のAMA調査では、医師の68%がAIツールに価値を見いだし、66%がすでに利用していることが分かりました。一方、ほぼ半数（47%）が、AI生成の推奨への信頼を築くために最も重要な規制上の措置として、医療従事者による監督の強化を挙げました。
シンガポール総合病院のAI2Dモデル （感染症領域における拡張知能）は、臨床AIにおける状況に応じた説明可能性を体現しています。このツールは、患者のリアルタイムデータを用いて、肺炎などの症状に抗生物質が必要かどうかを医師が判断するのを支援し、初期検証で90%の精度を達成しました。検査結果が出る前に治療方針を提案することで、AI2Dは臨床医の判断に取って代わるのではなく、それを支援します。適時で解釈可能な出力によって信頼を強化します。
運用中の監査可能性：患者の引き継ぎ時に、予測の追跡は可能でしょうか。
2022年のNature Medicine掲載研究は、環境の変化により、敗血症予測モデルの性能が導入から数カ月以内に17%低下したと報告しました。これは監査可能性が重要な理由を示しています。状況の変化に応じて、モデル性能をリアルタイムで追跡できるからです。
シンガポールのaiTriageとCARES 2のツールは、それぞれ心臓イベントと術後イベントを予測します。予測を記録し、タイムスタンプを付けて診療記録に組み込むことで信頼を得ています。臨床医は、引き継ぎやフォローアップ診療の際に過去の推奨を確認できます。この追跡可能性は、説明責任を支えながら、人間による判断を強化します。
エンドユーザーからのフィードバックの仕組み：現場の利用者は、安全でないパターンを報告し、アルゴリズムの改善に貢献できるでしょうか。
使いやすさの向上：SingHealthのNote Buddyは、多言語での診療会話をリアルタイムで文字起こしし、事務負担を軽減して、よりきめ細かなケアを可能にします。インターフェースを現場に合わせることで信頼を生み出す、具体的な例です。
次のようなメンタルヘルスプラットフォーム、mindline.sgやHolmuskのNeuroBluは、信頼を考慮した監督を設計段階から組み込んでいます。Mindline.sgは、臨床医が確認したトリアージの枠組みとカテゴリー別の振り分けを用い、個人を特定できるデータを保持せずにセルフケアツールや専門家への紹介を提供します。継続的に臨床医が判断を覆すことを想定して設計されてはいませんが、適切さと安全性を保つため、反復的に更新されています。一方、Holmuskは自社のNeuroBluプラットフォームを通じて予測モデルを臨床医向けダッシュボードと連携させ、継続的なデータ更新を通じて医療チームがリスクを監視し、介入を改善できるようにしています。
東南アジア：進行する信頼の実験場
東南アジアでは、政策だけでなく実践を通じたガバナンスが先駆的に進められています。シンガポールでは、保健省主導のTRUSTデータ交換基盤に現在、約40件の匿名化された全国医療データセットが収録され、初年度には107人の利用者からのデータ申請のうち17件が承認されました。一方、シンガポールのAIシステム試験・評価の国家枠組みであるAI Verifyは、2025年グローバルAI保証パイロットを通じて臨床現場への導入が進んでいます。このパイロットでは、技術試験とプロセス確認を組み合わせ、AIシステムの公平性、堅牢性、透明性を評価します。実環境で稼働する17件の生成AI導入事例が対象となり、その中にはチャンギ総合病院のワークフロー要約ツールも含まれます。これらは10業界にわたる16の専門試験機関と組み合わされました。
シンガポール以外でも、ASEANは原則からパイロットへと進み、加盟国は言語ごとの安全性ツールを現場で試験しています。特に、タイのTyphoon2-Safety分類器は、タイ語の大規模言語モデル（LLM）の出力に文化的・文脈的な安全策を適用するために公開されました。医療分野では、こうしたツールは、メンタルヘルス支援、トリアージアシスタント、患者向け生成AIシステムなどでますます重要になっています。こうした用途では、言語の正確さと文化への配慮が安全性と信頼に不可欠です。
これらのパイロットを持続的な効果につなげるには、ベンダー、医療機関、規制当局が共同設計し、日々の業務に説明責任と信頼を組み込めるガバナンス基盤が必要です。公共調達では、目標未達の場合のボーナスや返金ペナルティを、臨床医による介入率、診断エラーの減少、患者報告型経験指標（PREM）スコアなど、主要なKPIに連動させることで信頼を定着させられます。これは、次のAI for IMPACTs評価フレームワーク
に示されています。
AI運用の中核に信頼を根付かせるには、組織のリーダーシップが必要です。透明性、説明責任、利用者との適合性という条件は、自動的に生まれるものではありません。リーダーは、次の行動を通じて、AIの導入、評価、改善のあり方を定めるべきです。
信頼を築く：公共部門のAI調達要件に、運用上の信頼指標を組み込みます（たとえば、ベンダーに臨床医による介入率、PREMスコア、診断エラーの減少を追跡するよう求める）。利用者がリスクを安全に報告し、システムの進化に関与できる、利用しやすい窓口を強化することも重要です。
利用者と共同設計する：信頼は押し付けるのではなく、共同で築かなければなりません。そのためには、設計を重ねるたびに、きめ細かなプライバシー管理と患者諮問の意見を取り入れる必要があります。
地域で連携する：ASEANやAPECの枠組みを活用して、導入時のガバナンスを調整します。これはシンガポールの覚書に見られるとおりです。
ガバナンスに関する知識の向上に投資する：シンガポールの医療AIセンター（C-AIM）やAI for Science Initiativeなどの取り組みは、安全性、倫理、実社会での実装を支えるガバナンス原則を組み込んでいます。
AIは医療を変革できますが、信頼されることが条件です。信頼は固定されたものではなく、状況、フィードバック、利用を通じて築かれます。状況とは、ワークフロー、データソース、現場の役割など、臨床環境にAIシステムを適合させることです。フィードバックとは、リスクを見つけて機能を改善するため、利用者から継続的に意見を集め、性能を監視することです。そして利用とは、信頼は導入時に当然視するのではなく、安全なやり取りを繰り返す中で獲得しなければならないということです。
医療AIの未来を形づくるには、現場からガバナンスを築かなければなりません。信頼は設計するだけでなく、実体験を通じて獲得されるものです。
フォーラムは、連携を通じてリーダーが医療システムを強化するのをどのように支援するか
保健・医療センターは、アクセス、公平性、レジリエンス、備えなど、世界各地の医療システムが直面する課題への理解を深めるため、リーダーをつなぎます。
信頼に基づく対話と官民連携を通じて、同センターはパートナーが共通の優先課題に沿って連携し、健康成果の向上に向けた共同の取り組みを進められるよう支援します。
