生活に定着した、チャットボットをはじめとするバーチャルアシスタントの功罪
チャットボットをはじめとするバーチャルアシスタントは、日常生活の一部となっています。
Beena Ammanath
Executive Director, Global Deloitte AI Institute and Trustworthy AI/Ethical Tech Leader, Deloitte最新の情報をお届けします:
AIとロボティクス
- 自然言語処理を利用したバーチャルアシスタントは、導入する企業の効率化やコスト削減にも貢献しており、私たちの生活に浸透してきました。
- 一方で、バーチャルアシスタントの技術には、ミスコミュニケーションや不公平感を助長するなどのデメリットもあります。
- 他のAIと同様に、自然言語処理についても良い方向に使用されるよう慎重なガバナンスが必要であり、人間と機械の相互作用を最適化するためのフレームワークを構築する必要があります。
今の時代、私たちは呼びかけやテキストの入力により、バーチャルアシスタントと対話することが少なくありません。Amazonのアレクサ(Alexa)対応機器を自宅に置き、音楽の再生やジョークを言わせている人々を想像してみてください。Amazonは2018年だけで1億台以上のアレクサ対応機器を販売し、その年、アレクサは1億回以上のジョークを言ったことになります。
アレクサは、会話によってユーザーと対話するAI(人工知能)の一種であるチャットボットです。自然言語処理(NLP)によりアレクサは人間のメッセージを理解し、たいていの場合、適切に応答できます。例えばユーザーが製品に関する質問をした場合、質問事項を入力すると直後にチャットボットが回答を返してくれるので、カスタマーサービスに電話をかけ、人間のオペレーターの対応を待つ時間を節約できます。その結果、製品メーカーは基本的な質問に対応するための人材を雇う必要がなくなり、コスト削減にもつながります。
バーチャルアシスタントは大きな可能性を秘めており、すでに多くの効果が現れています。一方で、まだ全ての課題が解決されたわけではありません。チャットボットは比較的簡単に作ることができますが、会話に関しては上手くいかないことが多いのです。
チャットボットのメリット
NLPを活用したチャットボットの用途としては、医療、教育、小売り、観光など多様な産業で無限の可能性があります。多くの人々が、ビデオ会議システムのZoomを通じて子どもを教育しようとする中、チャットボットはAI対応の教育を世界中に届けることができるのです。一部の美容院では予約管理にチャットボットを採用していますが、さらに空港シャトルバスやレンタカーの予約管理などにもチャットボットが活用されています。
医療分野はおそらく、バーチャルアシスタントを最も有効に活用できる用途の一つと言えます。米国では予約確認通知(リマインダー)の送信を自動化した結果、予約客の無断キャンセル率が減少しました。また世界中の農村部では、チャットボットがデジタル診察を通じて、医師と患者を繋ぐ役割を果たしています。
例えば、人口1万人あたり、わずか医師数1名、医療従事者数6名のルワンダでは、ヘルスボットが医療センターの職員にかかる負担を軽減しています。患者は診察の列に並ぶことなく、国内のどこからでも電話で医師や看護師に相談することが可能です。また、処方箋や臨床検査のためのコードを、テキストメッセージで受信することもできます。
将来、このようなヘルスボットは、ルワンダの言語や疫病にローカライズされたAIを使ったトリアージツールとなり、より多くの患者に対応できるようになるでしょう。対面での診察を必要とする患者については、トリアージツールにより、治療の緊急性の最も高い患者が優先されます。さらに、トリアージツールにより患者の情報を共有できるため、医師は患者の治療に必要な情報を素早く入手できるようになるのです。
このようなバーチャルアシスタントを利用することで、貴重な医療資源をより有効に活用できるようになります。その結果、治療の質は高まり、医療従事者は常に最新情報を得ることが可能になります。
チャットボットのデメリット
AIは継続的に学習しますが、そのアルゴリズムは、バイアスのある人間が設計しています。AIを搭載したチャットボットの利用においての落とし穴の一つは、プログラマーの多様性の欠如により、チャットボットが偏った回答をしてしまうことです。訛りの強いユーザーの場合、チャットボットに誤解されることが多く、患者のみならず、正しい情報を求めている人対しても影響を及ぼすおそれがあります。不適切な治療方針、誤った診断、タイムリーな治療を受けられないことにより、深刻な結果を招く可能性があります。そのため、プログラマーの多様性を高め、コミュニケーションにおける不公平感の具体例を認識することが課題です。
ユーザーの対話相手がボットなのか人間なのかを区別できる能力と同様に、情報のプライバシーも慎重に考慮すべき問題です。NLPを搭載したバーチャルアシスタントは高度化が進み、常に「自然」に聞こえるようになってきました。そのため、患者をはじめとするユーザーが、対話相手が人間なのかボットなのか、医療診断を行っているのが医師なのかボットなのか、とまどうのも無理はありません。
このような課題に対処するため、スタンフォード大学は、人工エージェントが要求に応じて自らがボットであることを明確に示す識別情報を作成する必要があると、提案しています。さらに、この提案では、バーチャルアシスタントの所有者と使用の履歴に関する情報を含めることも求めています。この履歴情報により、トラッキングに関する懸念や、結果に対する責任の所在についての問題に対処できる可能性があります。
このような提案が実施されると、さらなる問題が必ず生じるため、境界線を確立し、人々とその機密情報を守るためには包括的な議論が必要です。Deloitte AI Instituteおよび米国商工会議所テクノロジーエンゲージメントセンター(Chamber Technology Engagement Center)の研究では、AIのメリットが十分に発揮され、そのリスクに対する懸念がイノベーションの妨げにならないために、産業界と政府がどのように協力できるかについて詳しく説明しています。
チャットボットとバーチャルアシスタントは、永遠に
アラビアンナイトの魔神のように、すでに普及しているバーチャルアシスタントのチャットボットを元のランプには戻すことはできません。NLPを搭載したチャットボットは定着し、その機能は今後さらに拡大していくでしょう。この状況は、チャットボットやプラットフォームの開発者、医療関係者、学界、規制当局、さらには社会全体といった複数部門のステークホルダーが力を合わせて、チャットボットを管理するためのフレームワークを設計する機会となります。
世界経済フォーラムは、医療、政府、企業の専門家を世界中から招集し、医療におけるバーチャルアシスタントを、責任をもって使用するための規制フレームワーク「チャットボット・リセット(Chatbots RESET)」を構築しました。このフレームワークでは、法律、プライバシー、セキュリティの課題に加え、公平性とアカウンタビリティの必要性に取り組み、また共同制作者は、医療以外の産業にも適用可能な、倫理原則と運用ガイドラインを確立しています。
近い将来、効果的なガバナンスの下、異なる言語で話している人々のZoom会議がリアルタイムで翻訳され、各参加者が各自の言語で音声を聞くことができるようになるでしょう。書記が必要な会議では、NLPによりバーチャルアシスタントが聞き取り、まとめ、要点を推測できるようになり、顧客から製品に関する苦情の電話があった場合には、担当者に引き継ぐべき的確なタイミングをチャットボットが伝えられるようになります。
チャットボットの有効性は、企業にとってコスト削減につながることは間違いありません。しかしそれ以上に、このようなバーチャルアシスタントにより、日常的に簡単な質問に対応している従業員を、より有意義で高い技能が要求される、高給の仕事へ配置転換するという道が開かれます。その結果、企業は離職率を下げることができるでしょう。週に100回も、同じ質問をされたい人などいないのですから。
このトピックに関する最新情報をお見逃しなく
無料アカウントを作成し、パーソナライズされたコンテンツコレクション(最新の出版物や分析が掲載)にアクセスしてください。
ライセンスと転載
世界経済フォーラムの記事は、Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Public Licenseに基づき、利用規約に従って転載することができます。
この記事は著者の意見を反映したものであり、世界経済フォーラムの主張によるものではありません。
アジェンダ ウィークリー
グローバル・アジェンダとなる、重要な課題のウィークリー・アップデート
メールに記載されているリンクを使って、いつでも配信を停止することができます。 詳しくはこちらをご覧下さい。 プライバシー・ポリシー.
もっと知る AIとロボティクスすべて見る
Chris Gillam and Judy Wade
2024年3月18日
Henrik Ekelund
2024年2月28日
Satwik Mishra and Helen Huang
2024年2月14日
Ewan Thomson
2024年2月1日