AIに関する規制は、その利用の指数関数的な増加に追いついていません。
「高リスクのチャットボット」について内部ガバナンスの枠組みを策定するには、企業にとってかなりの時間と資源が必要になります。
現在、チャットボットの利用に役立つ枠組みが存在しており、中小企業が責任あるAIの利用においてリーダーシップを示す機会を与えています。
人工知能（AI）は、私たちが日常的に利用する製品やサービスへと驚くべき速さで広がっています。ただし、その利用については、よく知られた倫理的懸念があります（AIの利用に関して）。中でも最も広く議論されているのは、公共の場での顔認識とプライバシーへの影響です。
AIアプリケーションの多くは、バイアス、透明性、説明可能性などの倫理に関する懸念を生じさせています。それにもかかわらず、AIの利用に関する規制は著しく不足しています。規制の背後にある漸進的かつ慎重なプロセスは、AIの利用の指数関数的な増加に追いついていません。
欧州委員会はこの課題に応えるため、その公表（今年4月）では、信頼できるAIに関する新たな措置と規則を提案しました。これは、AIを信頼できるものにするために必要な新たな規範について、おそらく初の包括的な検討でした。
チャットボットは今後さらに活発に対話するようになる
対話型AIは、この種の技術の中で最も人気のある用途の一つです。AmazonとGoogleのスマートスピーカーに搭載されており、すべてのスマートフォンにはSiri、Alexa、またはGoogleの音声アシスタントのいずれかが搭載されています。それは推定されており、米国のスマートスピーカー所有者数は2021年に約9,400万人に達する見込みでした。
対話型AIは、ウェブサイト、ソーシャルメディアプラットフォーム、スマートフォンアプリに広く導入されているチャットボットにも組み込まれています。COVID-19のパンデミックにより、医療分野でのチャットボットの利用が加速しました。
EUの提案はリスクベースのアプローチで、AIアプリケーションを、許容できないリスク、高リスク、限定的リスク、最小限のリスクの4つのカテゴリーに分類しています。例えば、遠隔生体認証（顔認証など）は高リスクに分類されています。顔認証に関する懸念の多くは、人口規模の危機へと急速に拡大しうるため、この分類は理にかなっています。
医療で使用されるチャットボットは、懸念に適切に対処するためには、高リスクに分類されなければなりません。
Venkataraman Sundareswaran
しかしながら、提案ではチャットボットを限定的リスクのAIシステムとして挙げており、「ユーザーは、継続するか中止するかについて十分な情報に基づいて判断できるよう、機械と対話していることを認識しておくべきである」と注意喚起しています。
この二者択一（利用するか、利用しないか）は、提案としては容易ですが、規制のアプローチとしては必ずしも最善とは限りません。医療のように社会にとって重要な分野でチャットボットを利用することには、多くの利点があるためです。その利点には、使いやすさ、24/7のアクセス、低コスト、再利用性、一貫性、導入の容易さが含まれます。
こうしたことを踏まえると、医療分野におけるチャットボットの利用拡大は、パンデミック後も続く可能性が高く、膨大な人口に有用な医療へのアクセスや関連サービスを提供することになるでしょう。例えば、英国の国民保健サービス（NHS）の利用者は、チャットボットへのアクセス権を持ち、「緊急だが生命に関わらない症状」のトリアージを受けられます。
ルワンダなどの国々は、遠隔地の人々への医療アクセスを拡大するため、この技術に積極的に投資しています。このような広範な利用可能性と使いやすさにより、この技術の普及はさらに進むばかりであり、EU提案で示唆されたような二者択一を人々に迫るのではなく、そうなるはずです。
問題のあるチャットは起こる
医療でチャットボットを利用することには多くの利点がある一方で、リスクもあります。例えば、チャットボットを患者のトリアージに使用する場合、トリアージの判断の背後にあるAIが、チャットボットを利用する人々を正確に代表するデータで学習されているか、細心の注意を払う必要があります。
これは容易なことではありません。対象となる人々の過去のデータを確保することは、さまざまな理由から常に可能とは限らないためです。その理由には、医療データの利用に関する地域の法律、過去のデータ収集の厳密さ、データ変換のコストなどが含まれます。
その他の懸念には、対象となる医療用途におけるチャットボットの有効性、チャットボットの提案に対して人間が介入または上書きする余地の欠如、チャットボットによる判断の透明性の不足、チャットボットが収集したデータがどの程度安全に保護されているかという問題が含まれます。これについての詳しい議論は、本報告書をご覧ください。
確かに、EU提案はここで示しているほど詳細には踏み込んでおらず、アプリケーションをより高リスクのカテゴリーへ「再分類」する余地を十分に残しています。EU提案の下では、チャットボットは場合により、「本質的な民間および公共サービス」を対象とする場合に「高リスク」に分類されうる（それには医療も含まれると考えられます）。しかし、医療で使用されるチャットボットは必ず、上記のような懸念に適切に対処するためには、高リスクに分類されなければなりません。
順調なスタートを切るために
医療分野でチャットボットの利用を高リスクに分類するよう提案する一方で、この分野で革新を進めている企業の多くは、必要な内部ガバナンスを構築するための余力や資源を持たない中小企業であることも認識しています。
病院、保険会社、政府規制当局など、この技術を利用するより大規模な企業であっても、迅速にガバナンス対策を策定するために必要な、技術とその影響に関する理解が不足していることが多いのです。実際、内部ガバナンスの枠組みを策定するには、かなりの時間と資源が必要です。
この課題に対応するため、チャットボット開発者、プラットフォーム提供者、医療専門家、学術界、市民社会、政府を含む、エコシステムのあらゆる分野の関係者を結集し、ガバナンス枠組みを策定しました。この枠組みは誰でもダウンロードして利用できます。
この枠組みには10の原則（下記の図2）が含まれており、多様な利害関係者の参加者によって慎重に選定されています。さらに重要なのは、著者らが10の原則のそれぞれについて、原則を「運用」するために使用できる一連の行動を示している点です。
各行動をチャットボットの開発または導入計画に組み込むことで、エコシステムの様々な関係者（開発者、提供者、規制当局）は、EUなど今後の規制への準拠に向けて、迅速に態勢を整えることができます。
最後に、この枠組みを利用することで、中小企業は医療分野におけるAI（チャットボット）の責任ある利用においてリーダーシップを示す機会を得られるとともに、円滑なスタートを切ることができます。
