医療におけるAIのリスクと、その対策

AIは医療を急速に変革しつつあります。がんの早期発見から個別化された治療法の提案まで、AIシステムは医療をより迅速に、より正確に、より手頃な価格にすることを目指しています。

高所得国では、これらのツールがすでに病院、研究センター、診療所で試験運用されており、その成果は目覚ましいものがあります。一方で、グローバル人口の大半を占める低、中所得国に住む約50億人にとって、医療AIの恩恵は依然として手の届かない存在です。

現在のAI開発アプローチは、健康格差の縮小ではなく、拡大につながるリスクをはらんでいます。大半の医療AIシステムは、限られた集団からのデータに基づいて構築されているため、主にグローバル・サウスに属する数十億の人々は、診断モデル、リスク評価、治療アルゴリズムにおいて考慮されていません。

是正措置が講じられなければ、AIは世界の医療における既存の構造的不平等を克服するどころか、意図せずして強化してしまう可能性があります。

データがAI開発の核心であることは周知の事実です。医療分野においてデータとは、数百万人の患者から収集された電子健康記録、画像診断データ、ゲノム情報、生体信号を指します。

ドイツの国営放送、ドイチェ・ヴェレによると、遺伝学研究の80%以上がヨーロッパ系の人々のみを対象としており、これはグローバルな人口の20%未満に過ぎません。多くの専門家がこの状況を著しく不均衡だと指摘しています。

医療AIシステムは、包括的で多様なデータセットによって初めてパターンを認識し、様々な人口統計において正確な予測を行うことを学びますが、AIモデルの訓練に使用される健康データのほとんどは、米国、欧州の一部と、中国の患者から得られています。

偏ったデータで訓練されたAIシステムは、異なる遺伝的背景、疾患の有病率、環境を持つ集団に適用すると、性能が低下する可能性が高いのです。これに関しては、以下のような事例があります。

このことから、懸念される状況が生じています。スケーラブルで低コストの診断ツールから最も恩恵を受ける可能性のある人々が、構築中のシステムにおいて最も代表されていないという状況です。

偏ったAI医療システムがもたらす排除の危険性は、技術的な課題に留まりません。それらは現実の生活に具体的な影響を及ぼします。色の濃い肌における腫瘍を見逃すがん検出アルゴリズムは、単なる技術的誤りではなく、生死に関わる課題です。解決せずに医療AIシステムを導入した場合、以下のような結果を招く可能性があります。

AIは経済全体を変革する可能性を秘めています。一方、特に医療分野において、その真価が公平に発揮されるためには、多様性を反映したグローバルな基盤の上に構築されることが不可欠です。

包摂的なAI医療システムを構築することは容易なことではありません。このためには、各国政府、国際機関、企業のイノベーターと地域コミュニティが連携した取り組みが必要です。その実現に向けては、以下の優先事項を考慮しなければなりません。

代表性のあるデータは、インクルーシブなAIの中核です。AIシステムがアフリカ、アジア、ラテンアメリカの人々に確実に役立つよう、多様な人口統計を捉えたデータセットの作成と管理に投資する必要があります。これには、地域の病院や診療所が記録をデジタル化するための支援を含むでしょう。ルワンダの「デジタルヘルス・イニシアチブ」は、この方向性における模範的な一歩です。

また、データの主権を尊重しつつ、国境を越えてデータセットの相互運用性を実現する協力を促進することが極めて重要です。グローバル・アライアンス・フォー・ゲノミクス・ヘルス（GA4GH）などの国際的な取り組みは、データ共有における国境を越えた協力が可能であることを示しています。

より広範な健康データがAIモデルに反映され、世界の現実を反映させるためには、同様の枠組みが必要です。

包摂的なデータセットが存在しても、現地の医療システムがAIツールを効果的に導入、適応できなければ意味がありません。グローバル・サウスの多くの医療施設では、高度なAIを支えるために必要な、信頼性の高いインターネット接続から安全なデータストレージに至るデジタル・インフラが不足しています。

同じくらいに重要なものは、人的能力です。臨床医、データサイエンティスト、政策立案者は、AIツールを評価し、現地の状況に合わせてカスタマイズし、臨床ワークフローに整合させるための研修とリソースが必要とされています。

AI医療を軸とした地域イノベーションエコシステムを構築することにより、ソリューションを単に輸入するだけでなく、サービスを提供するコミュニティ内で、そのコミュニティのためのソリューションが創出されるようになります。

デジタル・インフラと地域能力への投資と並行して、こうしたシステムの設計、開発、導入、利用における、公平性を確保するためのガバナンス体制と規制枠組みを確立することが不可欠です。

インドの「ナショナル・ヘルス・ブループリント」は、こうした格差の解消を目指すもう一つの戦略的取り組みです。

50億人もの人々がAIを活用した医療の未来から取り残されるリスクは現実のものですが、避けられないものではありません。政策立案者、イノベーター、医療リーダーたちが今日下す選択が、AIが既存の格差を拡大させるか、それとも埋める助けとなるかを決定付けるでしょう。

世界保健機関（WHO）をはじめとする国際機関は、グローバルデジタルヘルス戦略において、公平性の重要性を強調しています。テクノロジー企業や研究機関でも、多様なデータの必要性が認識されつつあります。一方で、進展は依然として不均一であり、課題規模が大きいことから、より一層のグローバルな連携体制が必要です。

医療におけるAIは非常に大きな可能性を秘めています。臨床医が疾患を早期に発見するための支援、治療方針の決定の指針、医療センターから遠く離れた地域への質の高い医療の提供に貢献することができるからです。ただし、こうした恩恵をグローバルに享受するためには、現在のAI医療システムの開発方法を取り巻く、構造的な不平等に対処する必要があるのです。