緊急通報番号に電話をかけている若い女性はパニックに陥っている。声は感情で震え、父親が突然床に倒れたことや、自分の名前、住所、その詳細を通話センターのオペレーターに伝えようと必死になっている。
緊急事態への対応を訓練された電話オペレーターは、女性を落ち着かせる。父親は頭を打ったようだ。オペレーターが通報者と父親について話している間、人工知能（AI）システムが会話を「聞き取り」、重要な単語やフレーズを特定する。
救急車が通報者の住所へ向けて出動するまでのわずかな間に、AIは男性の心臓が停止している可能性があることを察知している。
若い女性に父親の呼吸を確認させた後、通話オペレーターは、訓練を受けた救急隊が到着するまでの間、父親の生存の可能性を高める人工呼吸と心臓マッサージの方法を女性に伝えることができる。
このシナリオはファンタジーのテレビ番組から取られたものではない。これはのプロモーション動画であり、デンマークで開発され、同国内で病院外での心停止による死亡を防ぐために使用されてきたAIツールのものだ。今年は欧州の他の4都市で試験導入される予定で、これは80か国以上で運営されている欧州緊急通報番号協会との提携の一環である。
この技術の開発元であるCortiは、コペンハーゲンで製品を試験運用しており、公式の112緊急通報番号にかかる通話を傍受してきた。同社によると、同社のシステムは緊急通報を分析し、心停止に関連する単語や特徴を学習して、それらをニューラルネットワークに適用するという。これにより、人間よりも正確に、誰かの心臓が停止しているかどうかを予測できるとされる。
調査によると、コペンハーゲンの緊急通報指令員は、電話で心停止を約73%の確率で認識できている一方、Corti AIは95%の確率で検知できるという。心停止は心筋梗塞とは異なり、心臓全体が拍動を停止する状態である。一方、心筋梗塞は心臓の一部への血液供給が遮断されることで起こる。
CortiのAIは、通話を行う人と、その通話に対応する通話センターのオペレーターの双方に、落ち着いた支援を提供することを目的としている。
助けを必要とする人自身が緊急通報を行えないことが多く、その代わりに、医療経験のない友人、親族、通りがかりの人が通報する場合が多い。
英国での調査によると、心停止の20%は公共の場所で、80%は自宅で発生している。また、英国心臓財団は、心血管疾患が国内の全死亡の4分の1以上を占めていると述べている。米国では、毎年35万人が病院外で心停止を起こしており、そのうち90%が死亡している。
しかし、Cortiのエンジニアによると、他の人が通報した場合でも、AIは不規則な呼吸などの背景音を聞き取り、緊急センターの対応者に適切な助言を提供できるという。心停止を検知できるかどうかは被害者の生存の可能性にとって極めて重要であり、支援がないまま1分経過するごとに蘇生の可能性は7%から10%低下する。
しかし、ウェブサイトThe Vergeによる報告は、いくつかの懸念点を指摘している。それによると、AIはどのように判断を下しているかを説明できないという。さらに、The Vergeによると、161,650件の通話を対象とした完全な調査結果は公表されていないため、AIが特定した「偽陽性」の数は不明である。
「これもまた、アルゴリズムを検証しテストする必要性を示す一例だ」と、世界経済フォーラムの人工知能・機械学習部門責任者であるケイ・ファース＝バターフィールドは述べている。
「私たちは皆、AIが『魔法の杖を振って』私たちがより良くなる手助けをしてくれると信じたいものだ。そして、これはAIに極めて価値のある仕事をさせる方法のように思える。
「しかし」とファース＝バターフィールドは付け加え、「透明性、説明責任、患者のプライバシー保護の要件を依然として満たす必要がある。EUでは、GDPRの対象となるため、おそらく問題はないだろう」と述べた。
しかし、ファース＝バターフィールドが説明するように、この技術は説明責任という厄介な問題を提起している。
「機械が誤った判断をした場合、誰が責任を負うのか？ AIの製造者か、それから助言を受けた人間か、それを使用したセンターか？ これはAIにおいて大いに議論されている問題であり、早急に解決する必要がある。AIが誤った場合でも、人間よりも大幅に優れているのであれば問題ないと、いつ受け入れるのか。我々より100%優れている必要があるのか、それとも少しだけ優れていればよいのか。この技術を使用しないことは、いつの時点で過失とみなされるのか？」
これらの問いは、今後さらに切迫したものになるだろう。
