研究者はAIを用いて乳がんを検出したところ、人間の専門家を上回る性能を示した。
研究環境ではAIシステムは概ねうまく機能する傾向がある。しかし、現実世界の環境では苦戦することも珍しくない。
機械学習とディープラーニングはヘルスケアシステムの大きな部分になりつつあり、科学への信頼と、それが機能するという証拠の必要性を示している。
John Quackenbushはグーグルに不満を抱いていた。2020年1月のことで、グーグル・ヘルスの研究者らが率いるチームが『ネイチャー』誌に、マンモグラフィー画像を分析して乳がんの兆候を見つけるために開発した人工知能（AI）システムに関する研究を発表したばかりだった。研究によれば、このシステムは単に機能しただけでなく、非常に優れた性能を示した。研究チームが画像2セット（英国のものと米国のもの）を解析させた際、医療専門家による当初の判定と比べ、偽陽性を1.2パーセントと5.7パーセント、偽陰性を2.7パーセントと9.4パーセント減らした。ほぼ500件のマンモグラフィーを解析する別のテストでは、このAIシステムを6名の専門医認定放射線科医と対戦させたところ、アルゴリズムは各専門医を上回った。著者らは、このシステムは「乳がん予測において人間の専門家を超える能力を持つ」と結論づけ、臨床試験の準備ができていると述べた。
その後、扇情的な見出しが次々と現れた。「グーグルのAIシステムは乳がんの検出で医師を負かせる」とCNNの記事は断言した。「A.I.がマンモグラフィーを読むことを学習中」と『ニューヨーク・タイムズ』紙は報じた。研究結果は確かに目覚ましいものだったが、クアッケンブッシュを驚かせることはなかった。彼は計算生物学・バイオインフォマティクスのヘンリー・ピカリング・ウォルコット教授であり、生物統計学部の学科長でもある。彼は、パターン認識と予測を主とするAIのサブセットである機械学習やディープラーニングが、特に医用画像の異常を解析する分野で変革をもたらす可能性を否定していない。「腫瘍の特定は統計の問題ではない」と彼は言う。「それは機械学習の問題だ」と。
しかしクアッケンブッシュを悩ませたのは、公開後の数週間で誰も研究結果を独立して検証していないにもかかわらず、このシステムが臨床試験の準備ができていると主張された点だった。その一因は、検証自体が極めて困難だったことにある。その論文は『ネイチャー』誌に掲載されており、クアッケンブッシュらが再現とテストに重要と考えたアルゴリズムのコードの詳細が欠けていた。さらに、研究で用いられたデータの一部は米国の病院システムからライセンスを受けたもので、外部には共有できなかった。
AIシステムが研究環境ではうまく機能しながら、現実の環境で失敗するのは珍しくない。
クアッケンブッシュはキャリアを通じて、透明性とデータ共有の積極的な提唱者であり、そのゲノムデータを世界中の研究者が利用できるようにする取り組みにより、2013年にバラク・オバマ大統領から「ホワイトハウス・オープンサイエンス・チャンピオン・オブ・チェンジ」に任命されたほどである。クアッケンブッシュによれば、再現性は科学的方法の本質であり、新しい技術が人間の臨床試験での使用に向けて提案されるときには、この上なく重要である。戒めの例として、クアッケンブッシュは、アニル・ポッティを挙げる。ポッティは元デューク大学教授で、2000年代初頭に、特定のがんを患う人がどのように化学療法に反応するかを決定できる遺伝子シグネチャーを発見したと主張した。他の研究者がポッティの発見を再現できなかったと報告したにもかかわらず、その手法は人間の臨床試験に進んだ。やがて、ポッティがデータと研究結果を捏造していたことが明らかになり、生物医学の研究の全体が崩壊した。患者が害を受け、訴訟が起こり、研究は撤回され、クアッケンブッシュは何が間違っていたのかを調査する米国科学・工学・医学アカデミーのパネルに参加するよう求められた。クアッケンブッシュによれば、そのパネルは、他の研究者がポッティのデータ、ソフトウェア、方法論の詳細にアクセスできていれば、すべては避けられたはずだと結論づけた。
はっきりさせておくと、クアッケンブッシュはグーグル・ヘルスの研究に対して、不正や邪な意図があるとは疑っていなかった。とはいえ、アルゴリズムが医療専門家を上回るという露骨な見出しに彼は憤りを覚えており、研究結果が再現される前に、がんを患っている可能性のある人々の治療にシステムが使われることを強く懸念していた。結局のところ、AIシステムが研究環境ではうまく機能しながら、現実の環境で失敗することは珍しくない。
この問題に注目を集めるため、クアッケンブッシュと、様々な学術機関の二十数名の同僚が、論文を『ネイチャー』誌に、昨年10月に寄稿した。その論文は、グーグル・ヘルスの研究に対する懸念を表明し、AIとがん治療の交差領域で活動する科学者間の透明性向上を求めるものだった。論文の目的は研究者を糾弾することではなく、AIと健康分野で浮上している重大な課題を明らかにすることにあった。それらの課題は、研究者が急速に進化するこの技術の可能性を探り続けるにつれて、規模と範囲において増す一方である。
グーグル・ヘルスのチームは評価すべきことに、クアッケンブッシュらに対して再び『ネイチャー』誌で回答し、元の研究に補遺を追加して、アルゴリズムの構築方法に関する方法論の詳細を補足したと説明した。しかし同時に、ライセンスを受けた健康データや独自技術を扱う際の現実的な課題と、AIを取り巻く不透明な規制環境についても強調した。
多くの点で、クアッケンブッシュの懸念とグーグルとのやり取りは、AIと健康分野の過熱した領域の縮図である。そこでは、比較的若く、巨額の時価総額と極めて優秀なエンジニア、そして前例のない計算能力を持つテック企業が、ライフサイエンス企業や病院システム、学術機関といった従来型のプレーヤーと並んで旗を立てている。その可能性は計り知れないが、過熱ぶりも同様であり、研究の現場には潜在的な落とし穴が散在している。AIが創薬を加速し、臨床診療を効率化し、世界の社会経済的な階層のあらゆる段階にいる数百万人の診断と治療を向上させることは可能である。しかし、質の低いデータや偏ったアルゴリズムが患者に害を及ぼし、AIを万能薬とみなす過剰な期待が長期的には科学への信頼を損ない、この分野への投資を枯渇させる可能性もある。
「これらの新技術は急速に登場しており、今すぐ答えなければならない非常に深刻な問いを提起しています」とクアッケンブッシュは言う。「そして長期的には、研究者間の透明性がAIの導入を加速させ、患者に質が高く偏りのないケアを確実に提供することにつながるでしょう。」
名前に込められた意味
人工知能：知能の特性を示すコンピュータ・システムを包括する用語。
機械学習：人工知能のサブセットで、主に統計的手法を用いてデータセットから学習し、パターンを特定し、予測を行うアルゴリズムの開発に焦点を当てたもの。
ディープラーニング：機械学習のサブセットで、「人工ニューラルネットワーク」を人間の脳を模倣するように設計し、自ら学習して予測能力を徐々に向上させるもの。
自然言語処理：AIと言語学を組み合わせ、話し言葉や書き言葉としての人間の言語を理解するコンピュータ・プログラムを作成する分野。
期待と懸念
AIとその様々なサブ分野が公衆衛生に導入されている方法は、その多様性と同じくらい魅力的である。研究者らは、食品由来の疾病の原因を予測し、インフルエンザの症状を訴える人々を示す何百万件ものツイートを迅速に精査し、病院の記録を分析してアレルギー性の薬剤反応を特定するAIベースの手法を開発している。ハーバード・チャン公衆衛生大学院では、S.V. Subramanian教授（人口健康・地理学）が、マイクロソフトおよびインド政府の研究者と協力し、インド農村部のほぼ60万の村すべてにおける小児栄養失調の負担を予測し、地図化した。一方、クラレンス・ジェームズ・ギャンブル生物統計学・人口学・データサイエンス教授のFrancesca Dominiciらは、AIを用いて環境リスク（大気汚染など）と健康状態の悪化との因果関係を特定しようとしている。
健康医療は初期のAI研究の焦点ではなかった。人間のように考え、推論し、学習する機械という概念は、何世代にもわたって人類を魅了してきた。1950年までは主にSF作品の題材にすぎなかったが、その年、英国の数学者であり第二次世界大戦中の暗号解読者でもあったアラン・チューリングが、画期的な論文「計算機械と知能」を発表した。その後の数年間、様々な分野の研究者が熱心にAIの研究を進めた。1956年、RANDの研究チームは、数学の定理を解き、人間の問題解決能力を模倣することができ、最初のAIプログラムとして広く認識されている「Logic Theorist（論理理論家）」を発表した。1964年、MITのチームは、人間の会話をシミュレートするプログラムであり、今日よく見られるカスタマーサービス用チャットボットに類似したELIZAを公開した。
多くの概念実証が実を結ぶにつれ、野心は大きく膨らみ、一部の研究者はAIがまもなく人間の知能を超えるだろうと大胆な宣言をした。急速な技術革新への圧力の多くは、1960年代後半から1970年代初頭にかけての米軍から生じた。当時米国は冷戦のさなかにあり、コンピューティングにおける競争優位性を得ることに熱心だった。特に自然言語処理（AIのサブ分野であり、軍用機を音声コマンドで誘導し、ロシア語のテキストや音声を英語に翻訳できるようにすることを研究者たちが期待していた）に注力していた。しかし、多くの研究者がこの技術の可能性を過大に売り込み、進歩は停滞した。高額な失敗が相次いだ後、国防総省やその他の主要な出資者は研究分野から撤退し、研究コミュニティは崩壊した。
「人々が『AIの冬』と呼ぶものです」と説明するのは、JP Onnela准教授（生物統計学）。「AIの冬は少なくとも2回ありました。2回目は80年代後半から90年代初頭にかけてです。これらの冬の時代は、AIが達成できることへの期待が非常に高く設定された時期であり、その期待が満たされなかったとき、この分野は流行遅れとなり、資金が削減されました。」
現在に目を向けると、AIは再び活況を呈している。最近、研究会社RELXが各業界の経営幹部1,000人を対象に行った調査では、回答者の93パーセントが、機械学習やディープラーニングを含むAIが自社の競争力強化に寄与していると考えていることがわかった。また、半数を超える企業が、AIやその他の新興技術に特化した職種を新たに採用したと報告している。
AIが創薬を加速し、臨床診療を効率化し、世界の社会経済的な階層のあらゆる段階にいる数百万人の診断と治療を向上させることは可能である。
また、質の低いデータや偏ったアルゴリズムが患者に害を及ぼし、AIを万能薬とみなす過度な期待が長期的には科学への信頼を損ない、この分野への投資を枯渇させる可能性もある。
自動運転車の制御から高速株式取引の実行、プロのサッカーチームのパフォーマンス最適化に至るまで、アルゴリズムの影響を受けていない世界の片隅はないように思われる。
しかし、過去のAIブームとは異なり、今回は研究者の間で健康医療が最大の関心事となっている。その理由の一つは、電子カルテ、デジタル画像、バイオバンク、携帯電話やウェアラブル機器などから膨大な量の健康データを抽出できることにある。しかしオンネラにとっては、ビッグデータやAIに関するあらゆる関心と熱狂が、この分野の将来に対する不安を生み出しかねない。
「私はAI全般に多くの誇張があると思います。特にAIを健康と組み合わせると誇張が多く、それが懸念です」と彼は言う。「しかし同時に、特にディープラーニングによって、非常に印象的な成果が見られています。こうした成果の理由の一つは、複雑なモデルを訓練するために利用できる膨大なデータがあることです。それは、機械に推論させるという意味でAIの進歩を遂げていることを意味するのか？いいえ。しかし、これらのシステムがデータ内のパターンを認識することに長けるよう教える点では進歩しており、それは克服すべき大きな課題です。」
オンネラは熱心な性格だが、その楽観主義には重要な但し書きがある。データが大量にあるからといって、それが良質なデータであるとは限らない、と彼は言う。そして、質の悪いデータでアルゴリズムを訓練した結果は、ひどいものになりかねない。
アルゴリズムの偏り
2019年、カリフォルニア大学バークレー校のZiad Obermeyerとシカゴ大学のSendhil Mullainathanは、『サイエンス』誌に、警鐘を鳴らす研究を発表した。彼らは、病院システムが、フォローアップのケアの恩恵を受けるはずの複雑な医療ニーズを持つ患者を特定するために広く使用されているアルゴリズムに、著しい人種的偏りがあったと報告した。このアルゴリズムは医療費を健康ニーズの代理指標として用いており、言い換えれば、医療費の高い患者はより健康状態が悪く、より多くのケアを必要とするとみなしていた。問題は、米国の黒人集団がより多くの医療へのアクセス障壁に直面し、黒人患者に費やされる金額が白人患者より少ないことだった。そのため、著者らによれば、このアルゴリズムは、同程度に病気の白人患者よりも黒人患者の方が健康であると、規則的かつ誤って結論づけていた。言い換えれば、誤った論理がコンピュータ・コードに組み込まれたために、多くの黒人患者が、より手厚く、場合によっては命を救うかもしれないケアから除外された可能性が高い。実際、研究者らが問題を修正してデータを再分析したところ、追加のケアを受ける資格のある黒人患者の割合は、17.7パーセントから46.5パーセントに跳ね上がった。
これはアルゴリズムの偏りとして知られる問題で、健康医療に限ったものではないとHeather Mattie（生物統計学の講師であり、健康データサイエンス修士課程の共同ディレクター）は指摘する。Mattieは一例として、ProPublicaの記者が、フロリダ州で用いられた、受刑者が将来犯罪を犯す可能性を評価するアルゴリズムを検証した事例を挙げた。その結果、黒人被告人は実際よりも再犯リスクが高いと予測されることが多く、白人被告人は実際よりもリスクが低いと予測されることが多いことが判明した。
また別の例では、MITのガーナ系米国人研究者であり、「The Algorithmic Justice League」の創設者であるJoy Buolamwiniが、顔認識ソフトウェアは肌の色が濃い人々の顔を読み取るのに苦労すると報告した。彼女が自身でこの技術を試したところ、実際の顔よりも白い顔のマスクを着けたときの方がソフトウェアがうまく機能することを発見した。
このような偏りは、どの場合にも有害である。病院システム全体にわたって医療上の判断を導くアルゴリズムの場合、その影響は命に関わりかねない。「アルゴリズムの偏りについては、盲点がたくさんあります」とMattieは言う。「真に患者集団を代表するデータでこれらの機械学習モデルを訓練しないことは大きな問題であり、偏りの最大の要因の一つです。しかし、偏りのもう一つの要因は、実際にこれらのシステムやアルゴリズムを開発するチームに多様性が欠けていることです。」
良いニュースとして、アルゴリズムの偏りの多くは修正し、防止することができる。ヘルスポリシーと経営の講師であり、Best Buy Healthの社長であるDeborah DiSanzoは、偏りが持ち込まれる主な方法は2つあると言う。「データに偏りがあり、アルゴリズムにも偏りがある」。データ面では、電子カルテの普及により、まもなくはるかに包括的で代表性のあるデータセットが作成され、AIシステムの訓練に使われるようになると楽観している。彼女は、2009年に成立した「経済的及び臨床的健全性のための医療情報技術法（HITECH法）」を、データのデジタル化と共有の重要な契機として挙げる。しかし、電子カルテのデータはしばしば「非常に汚れており」、必ずしも正確ではなく、多くの場合不完全で、時には重複していることも指摘する。
アルゴリズムに偏りが組み込まれるのは、主に設計の不十分な質問や論理的な見落としによるものであり、それは専門知識の欠如によるものでもあるが、コードを書くチームの多様性の欠如からも生じている。DiSanzoは長年にわたり医療分野でキャリアを積み、Hewlett-Packard、Philips Healthcare、そしてIBMでリーダー職を歴任し、IBMではWatson Healthのゼネラルマネージャーを務めた。彼女によれば、業界全体としてアルゴリズムの偏り、良質なデータの重要性、多様なチームの必要性に対する認識が高まっている。ただし、これは一夜で解決できる問題ではなく、開発者が偏りの根絶を主導することが不可欠だという。「やがて、相互運用性の標準ができるでしょう。やがて、非常に優れた健康情報交換の仕組みができるでしょう。やがて、人種、性別、社会経済的背景にわたる非常に多様なデータを得て、アルゴリズムを構築し訓練できる段階に到達するでしょう。しかし、今のところは、アルゴリズムを構築する企業が、データ内の偏りを特定し、アルゴリズムの偏りを理解し、それを考慮に入れる責任があります」と彼女は言う。
政策の停滞
AIと健康医療の交差点には、計算能力や偏ったデータセットとはまったく無関係で、むしろ技術の規制を担う、しばしば巨大な官僚機構に起因する、もう一つの障害がある。「政府がイノベーションに真剣であり、医療の改善にも真剣であるなら、科学技術のイノベーションだけでなく、AIと機械学習のための実現的なエコシステムを生み出す政策イノベーションにも目を向ける必要があります」とRifat Atun（グローバルヘルスシステム教授）は言う。「AIが医療に適用されるのを何が妨げるのかといえば、それは政策面におけるイノベーションの欠如です。」
規制の観点から、これらの技術はあらゆる場面で課題を突きつけている。Atunは、医療を統治する既存の政策の多くは、例えば医療保険の携行性と責任に関する法律（HIPAA）など、これらのアルゴリズムが形を成すずっと前に作られたものであり、機械学習の普及に伴い更新が必要になると言う。もちろん、それは言うは易く行うは難しである。国や国際的な政策が形作られるまでには何年もかかることがある。場合によっては、規制の枠組みが作られ、議論され、承認され、実施されるまでに、技術の進歩が速すぎてすでに時代遅れになっていることもある、とAtunは言う。
当面は、アルゴリズムを構築する企業が、データ内の偏りを特定し、アルゴリズムの偏りを理解し、それを考慮に入れる責任を負っている。
Atunは、AIの医療分野における将来性について概ね非常に楽観的である。彼は、私たちはこれまでに見たことのない規模で生物医学のイノベーションを刺激している技術的なルネサンスの中に生きているとし、アルゴリズムの偏りや計算能力へのアクセスといった問題は解決可能だと確信している。彼の視点によれば、医療分野のAIの最大の利点の一つは、人的・財政的資源の慢性的な不足により医療の質と量が制限される低リソース国にもたらされる恩恵である。例えば、約1,300万人が暮らすルワンダでは、2015年にはわずか11人の放射線科医しかいなかった。数百枚の画像を迅速にスキャンし、フォローアップすべきものを優先順位付けできるアルゴリズムは、業務の流れを劇的に改善するだろう。
病院に安定した電力供給すらない低リソース環境でAIと機械学習を応用することは、本末転倒に思えるかもしれない。これに対しAtunは電話を例に挙げる。「長い間、多くの低所得国には電話網がありませんでした。国中に縦横に張り巡らされた有線の電線網や電柱を建設し、固定電話を維持するための資金や資源がなかったのです」と彼は言う。「しかし今では、それらの国々がそうした道をたどる必要はなかったことがわかります。多くの国が一足飛びに衛星通信網や携帯電話に移行し、今ではその技術が発展途上国に広く普及しています。」
AIでも同様の道筋が可能であるとしつつも、Atunは、政策立案者、シンクタンク、そして豊かな国と貧しい国の政府が、それぞれの役割を果たす必要があるとする。彼は、どの公衆衛生施策が、リスク、疾病の進行、健康上の結果を最も費用対効果高く変えられるかを特定する取り組みを望んでおり、また、大量の診断に対応するための政策と実務の変更も望んでいる。
「AIは医療システムを変革する可能性を秘めています。しかし、そのためには、医療システムとそれを導く政策も変わる必要があります」と彼は言う。「数十年前に設計された医療システムに新興技術を押し込んでも、役には立たないでしょう。」
ハーバード・チャン公衆衛生大学院におけるAIの活用
学部を横断する研究者たちが、人間の健康をよりよく理解するためにAI分野をどのように前進させているかをご紹介します。
研究者らは、Yonatan Grad（免疫学・感染症学部）の研究者らが、特定の細菌が特定の抗生物質に耐性を示すかどうかを機械学習で予測する可能性を分析した。そのようなツールは命を救い、不適切な治療を減らすことができるとGradらは述べているが、そうしたモデルを関連データで最新の状態に保つには大きな課題があると警告している。
電子カルテ（EHR）の普及により、前例のない量の生物医学データが生まれている。Tianxi Cai（生物統計学部）、らは機械学習と自然言語処理の手法を開発し、EHRデータの分析、健康リスクの予測、診断の精度向上に取り組んでいます。
大気汚染やその他の環境上の脅威が人々に与える影響を理解するには、多数の情報源から得られる膨大な量の詳細なデータを分析する必要があります。フランチェスカ・ドミニチ（生物統計学部）らは、データから学習し、環境因子への曝露と健康上のアウトカムとの間の因果関係を特定する新たなAIツールを開発しています。
ジユン・チョン（分子代謝学部）は、高精細な画像技術を用いて単一細胞の極めて詳細な画像を取得し、機械学習の手法でその画像を分析して細胞小器官を自動的に識別するチームに参加しています。
インドにおいて子どもが栄養不良のリスクにさらされている地域を正確に特定するため、S.V.スブラマニアン（社会・行動科学部）らは、インドの597,121の村を対象に、発育阻害、低体重、消耗を含む栄養不良の主要指標の有病率を推定する機械学習の予測モデルを作成しました。
アンドリュー・ビーム（疫学准教授）は、医師が患者をよりよく理解し、ケアに役立てることのできる意思決定支援ツールの開発に機械学習を活用しています。彼の研究室は特に新生児集中治療室に注力しており、ビームによれば、そこでは未熟児の患者が臨床ケアの過程で生み出す膨大なデータが十分に活用されていないとのことです。
人間味のある関わり
アトゥンのコメントは、医療における人工知能の居場所づくりに内在する緊張関係を浮き彫りにしています。これは、Googleの健康研究に対してクウェックンブッシュが眉をひそめた理由と同じ緊張関係です。過去20年間、テック業界は社会や事業のあらゆる要素を「破壊」することに注力してきました。フェイスブックのCEOマーク・ザッカーバーグがかつて述べたように、そこではソフトウェアエンジニアが「素早く動き、破壊せよ」と奨励されてきました。一方、過去約2,000年にわたり、優れた医療従事者は慎重に行動し、「害を与えない」というヒポクラテスの理念に導かれてきました。
AIをめぐる議論ではしばしば見落とされがちですが、健康はきわめて個人的な問題です。「うつ病や脳腫瘍と診断されるまでの経緯を考えると、多くの場合、家族、友人、同僚が、最近のあなたがいつもと違う、あるいは疲れきって見えると指摘したことがきっかけです」とオンネラは述べています。彼自身の研究はデジタル表現型解析に焦点を当てており、歩数、睡眠周期、送信したテキストメッセージの数といった個人のデジタル機器から得られるデータを分析し、気分障害を持つ人々の症状をモニタリングする手法の開発に取り組んでいます。また、筋萎縮性側索硬化症や脳腫瘍の患者を対象に、同様の研究も進めています。初期の結果では、彼が導入した統計的学習手法が、患者が問題を抱えつつあることを示す早期指標となりうるデータ上の行動パターンを検出するのに優れていることが示されています。それが精神保健上のエピソードであれ、運動機能の低下であれ、です。極端に言えば、この種の研究は、スマートフォンを用いて個人の生きた経験を捉え、パートナーや友人の共感的なまなざしを、アルゴリズムの統計的な力に置き換えるものと表現できるかもしれません。
「AIは医療制度を変革する可能性を秘めています。しかし、それを実現するためには、医療制度とそれを導く政策も変革される必要があります。数十年前に設計された医療制度に新興技術を組み込むだけでは、役に立ちません。」—リファト・アトゥン、グローバル医療制度教授
現在の計算機科学者や数学者が、現時点でAIを取り巻く過熱した期待にどこまで追いつけるかは定かではありません。しかし、明白なのは、機械学習と深層学習が長期的に医療制度に組み込まれつつあるということです。AIはここに根付いています。ただし、今後の道のりには科学への十分な信頼が必要です。また、この技術が機能することを示す極めて確かな証拠も求められます。
「機械学習の歴史は、人間にとって容易なことが機械にとっては非常に難しく、その逆もまた然りであることを示してきました」とオンネラは述べています。「そして、今後の最大の課題は、私たちが直感的に把握しているこれらのことを、どのように機械に学習させられるかを見極めることだと考えています。」
