生成AIが患者体験を変える3つの方法

• 生成AI（人工知能）は、信頼できる健康情報の提供、適切な医療レベルの確保、患者治療のための介入の設計まで、健康の旅路全体にわたって医療消費者を支援する大きな可能性を秘めています。

• 医療で生成AIを導入する上で最大の障壁は、医師と一般の人々の間の不信感、基礎データの欠落、そして資源の乏しい環境でのスケーラビリティです。

• 医療で生成AIの導入を促進するには、適切な知識と人間の共感によってモデルの関連性を保ち、データとバイアスを監視するとともに、コストの障壁に対処することが求められます。

少なくとも1970年代以降、人工知能（AI）は医療の最も解決困難な問題のいくつかを解決する手段としてもてはやされてきました。しかし、これまでのところ現実は誇大な期待に及んでいません。

生成AI、特にChatGPTを支える大規模言語モデルは、世界の健康と医療を改善する強力な新しい手段を提供します。世界経済フォーラムとZSは、医療、テクノロジー、学術界などの幅広い分野のリーダーに取材し、医療における生成AIの変革的な可能性、導入における最も重大な障壁、そしてそれを乗り越えるために関係者が取るべき行動を評価しました。

これらの調査結果は、フォーラムとZSによる共同白書「Patient-First Health With Generative AI: Reshaping the Care Experience」（2024年1月）の主題となっています。同白書は、生成AIソリューションの適切な導入時期、その可能性、そして医療で生成AIを成功裏に展開するために必要なことを明らかにしています。

患者ケアのための生成AI――今なぜ重要か

生成AIはすでに新薬候補の発見や臨床試験の革新などに利用されていますが、近い将来で最大の機会は、患者体験を再構築することにあるかもしれません。

COVID-19パンデミックは、既存の医療の問題を悪化させました。その中には医師の燃え尽き症候群の急増や、世界の医療システムへの財政的負担の増大が含まれます。医療従事者の深刻な不足について、世界保健機関は現在の不足数を1,500万人と推定しており、その約95%は低・中所得国に集中しています。この不足は、治療へのアクセスの不均等が健康格差を広げ、慢性疾患の患者を治療する際のケアの負担を増大させるため、世界の健康にとって最大のリスクとなっています。

一方で、患者が自身の健康管理においてより積極的な役割を求める傾向が強まり、健康の消費者化が医療の変革を促し続けています。しかし、この現象にはリスクも伴います。健康リテラシーの低い患者は、オンライン上の不正確または誤解を招く健康情報の犠牲になりかねません。また、健康を追跡・管理するデジタルヘルスツールの利用が増えると、医師が新たなデータの流れを活用する能力が圧倒されてしまいます。

生成AIは、人間の話し言葉を模倣する能力、非構造化データ（医療情報全体の80%を占める）を処理する能力、そして最小限の訓練で多様な問題を解決する能力を備えており、医療消費者と直接コミュニケーションを取ることで、これらの課題に取り組むことができます。それによって、医療従事者の深刻な不足という懸念すべきギャップを埋めることができるのです。

生成AIが患者ケアをどのように革新するか

健康教育の支援

ChatGPTが普及する前に実施された調査では、米国の医療消費者の94%が健康情報をオンラインで探していると回答しました。しかし、確立された品質基準を満たす健康関連のウェブサイトはほとんどなく、米国の医療消費者の多くは健康リテラシーのスキルが限られていることが、研究で一貫して示されています。あらゆる言語の高品質な健康データで訓練された大規模言語モデルは、利用者の所在地、教育水準、文化的背景にかかわらず、正確でアクセスしやすく、したがって実行可能な健康情報を提供できます。

患者トリアージのコパイロット

医療従事者が不足している現状では、医療システムは、緊急性のない患者から、適時かつ手厚いケアを必要とする患者へ資源を振り向けるための支援を必要としています。初期の「バーチャルケアアシスタント」は、世界で話されている7,000以上の言語に対応するオープンソースモデルが不足していることや、予測型AIが文化的背景や医療システムの類型をまたぐニュアンスを十分に把握できないことから、拡大に失敗してきました。特定の文化的に多様な訓練を施すことで、大規模言語モデルは、医療システムに入ってくる患者を安全に層別化し、それに応じてケアを振り分ける支援を医療提供者に行えます。

疾病管理

治療の最初の1年間で、最大慢性疾患患者の60%が服薬を飛ばしたり、誤った用量を服用したり、治療を完全に中断したりしており、医療システムには年間数千億ドルものコストがかかっています。従来のアルゴリズムでは、患者が治療から脱落しそうな時期を予測できますが、患者を治療軌道に乗せ続けるための効果的な介入を提案することには苦労し、ましてや実行することは困難です。従来型AIと生成AIを組み合わせることで、患者を治療に留め続けるための慢性疾患管理の強力なツールを生み出すことができます。

強固な多国間協力の必要性

従来型AIと同様に、医療で生成AIを導入する上で最も手強い障壁は不信感です。その理由が明確でないことも多いのですが、大規模言語モデルは時折、不正確または誤解を招く回答を生成します。一方で、不十分または偏ったトレーニングデータは危険なほど偏った出力を生み出す可能性があり、また、個人の健康データをAIモデルに入力することには本質的にリスクが伴います。

同時に、大規模言語モデルは現在、訓練、ファインチューニング、運用に非常に高いコストがかかっており、低・中所得国の多くの医療システムにとっては手が届かないものとなる可能性があります。注意を怠れば、生成AIは既存の健康格差を広げ、高所得国だけがその恩恵を受けるリスクがあります。

これらの障壁は克服できないものではありません。関係者が、生成AIの進歩の恩恵を誰もが受けられるようにするためにとれる4つのステップがあります。

• 共感と専門知識を通じて信頼を築く。医療に特化したデータでモデルをファインチューニングし、医師に回答をテストさせ評価させることを優先し、出力を改善するとともに、モデルに共感を備えさせなければなりません。

• 偏りを軽減する。モデルの訓練データに内在する偏りを完全に是正することは不可能であるため、出力の偏りを軽減するには、データエコシステムをつなぎ、その後も継続的に回答の偏りを測定する必要があります。特に、十分なサービスを受けられていない人々の間で利用される場合には重要です。

• 人間の関与を維持する。まず、患者と医療提供者に対して、生成AIの限界、特にハルシネーション（大規模言語モデルが存在しないものを認識してしまう現象）の可能性について教育しなければなりません。さらに、医療提供者は、特にリスクの高い議論や重篤な疾患の患者とのやり取りにおいて、人間による監督を維持する臨床プロセスを導入しなければなりません。

• さまざまな状況にわたる拡大を計画する。資源の制約を考えると、大規模言語モデルを運用するためのよりコスト効率の高い手段を開発することが極めて重要になります。関係者はまた、地域、文化、状況によって異なるニーズを認識する柔軟な導入モデルを構築するよう努めなければなりません。

人の健康は本質的に尊いものです。患者一人の健康でさえ危険にさらす可能性のあるツールを開発、導入、または保証する関係者は、慎重でなければなりません。しかし、生成AIの責任ある利用から生じる医療上または倫理上の過誤のリスクは、この手法を無視することで失われる利益、そして患者への影響という無限の可能性と比べれば小さなものです。

生成AIは、私たちの生きている間に起こる最も深遠な技術的ブレークスルーとなるかもしれません。しかし社会は、その安全で責任ある利用を確実にするために、適切な保護策を講じるための協調的な努力をしなければなりません。そのためのツールは揃っていますが、今こそ集団としての意志を結集する必要があります。