人工知能（AI）は広く使われる用語であり、自動車からカップケーキ、コンピューターまで、あらゆるものの生産を指し得る「製造業」という言葉に似ている。包括的な用語として使うと、AIの目的を明確にすることがいかに重要かが見えにくくなる。目的は、技術の選択、その測定方法、そして応用における倫理に影響を与える。
AIの根底には、異なるメタレベルの目的がある。バーナード・マーがフォーブスで述べているように、多くのAIを牽引してきた「人間の思考を再現または模倣する能力」と、近年の「人間の推論をモデルとして用いるが、最終目標とはしない」モデルとを区別する必要がある。AIの全般的な定義がさまざまであるのと同様に、応用段階での目的も異なる。
私の分析では、対話型AIの応用には、少なくとも8種類の目的がある。それぞれに、次の表に示すような主要な意図がある。
現在、対話型AIの最も一般的な目的は取引である。2017年のStatistaの報告書によると、一般の人々はチャットボットを、主に自分が選んだブランドと、より即時的で、個別化された簡単なやり取りをするためのものと見ている。これは、一部の企業が、遊びや診断、情報提供を行うように見えるインターフェースの中にチャットボットの取引目的を隠し、ゲーム内販売、2点目が無料になるオファー、旅行プランなどを目立たなくしていることを反映しているのかもしれない。より広く見れば、取引目的の対話型AIは、実装や収益化が容易であることを示している可能性が高い。
ただし、Statistaの報告書は、医療、通信、金融など、診断や行動変容を目的とする、より複雑な分野でチャットボットの人気が高まっていることを示唆している。こうした対話型AIシステムは、特に医療のようなリスクの高い分野では、開発も収益化も難しく、長期的な取り組みになるかもしれない。
技術を熟慮して選ぶ
目的を明確にすることで、技術について熟慮した選択ができる。たとえば、対話型AIシステムの訓練方法、自己学習の度合い、人間を介在させる必要があるか、あるいはそうすることが望ましいかを決める際に役立つ。この点で、「純粋な」対話型AI（ニューラルネットワークとディープラーニング）と「単純な」AI（ルールベースのシステム）のどちらがよいかという議論は、目的との関係においてのみ意味を持つ。ハイブリッド型システムが主流になる可能性は高いが、現状からは、人間が介在する単純で予測しやすいAIが、行動や診断を目的とする場合に最も適していることがうかがえる。一方、遊びや交流が目的であれば、より大きなリスクを取る余地がある。
とはいえ、マイクロソフトのチャットボット「Tay」は、自己学習するチャットボットを公の場に公開する危険性を示した。公開から数時間でヘイトスピーチを学習したのだ。この事例は、現在の対話型AIがすべて信念体系ではなく統計に基づいていることを改めて思い起こさせる。そのため、技術的には人間を介在させる方がよいと勧める人もいる。マーティン・レディが述べているように：「最初の対話生成に人間を介在させるのは、根絶すべきものではなく、むしろよいことかもしれない（…）。自然言語生成のソリューションには、合成キャラクターの口調、文体、個性を制御できる人間の『クリエイティブディレクター』が関与できる仕組みが必要だ。」
これらの指摘が強調する重要な点は、対話型AIシステムが動的なものだということだ。市販のチャットボット構築ツールの多くは、この点をもっと明確に伝えられるだろう。構築して、展開し、その後に微調整するという考え方がある。実際には、対話ログや、重要だと判断した指標に基づいて、継続的に構築していく。私の考えでは、そうした指標は、システムの目的によって決める必要がある。
利用数から便益へ
デジタル分野で主流となっている指標が、対話型AIにも適用されていることを懸念している。「何人が、どれほど頻繁に、どれほど長く使うか」という決まり文句は、多くの目的には適さないにもかかわらず、成功の測定方法を支配し続けている。指標をめぐる議論では、販売促進の視点を少し抑え、証拠をより重視する時期に来ているのかもしれない。
コンバージョン率や継続利用率は、デジタルツールへの関与を測る有効な指標だが、目的に照らして解釈する必要がある。たとえば、ウェルビーイングを重視するツールを1日に10回使う人がいるとしたら、それは望ましい結果だろうか。それとも、トリアージや適切な窓口への案内が機能していないのだろうか。対話型AIの価値を測るよりよい指標として、意味のある利用に注目する時期なのかもしれない。
最近、スウェーデンの支援技術メーカーであるペルモビールと協力し、電動車椅子の利用者に向けて、診断や行動変容の要素に焦点を当てた対話型AIを提供した。たとえば、電動アクチュエーターを使った運動で褥瘡を減らす取り組みがある。システムを役立つと感じた利用者が大半だった一方で、望ましい利用頻度にはさまざまなパターンがあり、毎日使いたい人は比較的少なかった。車椅子で過ごす時間や利用者の基礎疾患などのデータと組み合わせ、好まれる利用パターンを取り入れることで、利用者を中心に据えた対話型AIのアルゴリズムを作ることができる。システムを利用者に合わせて個別化するほど、販売や顧客維持の成果も高まる可能性がある。
私の見解では、対話型AI分野で長期的に成功するのは、システムの目的に直接結びついた、意味のある利用と有益な成果を示せる企業だろう。取引目的の対話型AIで用いられるものにとどまらず、目的に関連した成果こそが、成功するビジネスモデルを支える最良の要素である。
目的によって、成果の追跡しやすさは異なる。ドリフトの報告書は、カスタマーサービス分野のチャットボットにとって重要な消費者向けの成果として、24時間対応、即時の回答、簡単な質問への応答を挙げた。こうした指標は、診断や行動を目的とする対話型AIの成果より追跡しやすい。後者の評価には、より厳密な科学的手法が必要となることが多い。
対話型AIの便益に関する研究に取り組むことは、顧客の信頼と利用を高めるうえで欠かせず、収益化戦略にも重要である。自然言語理解は、成果分析に興味深い役割を果たす。たとえば、デジタルメンタルヘルスサービスのビッグ・ホワイト・ウォールでは、利用者が入力した連続していない20語だけで、PHQ-9［うつ病のスクリーニング、診断、経過観察、重症度測定に用いる尺度］とGAD-7［全般性不安障害の自己記入式質問票］のスコアを高い確度で予測できた。
このことから、言葉遣い（語彙、口調、リズム）の変化が、目的に関連する成果を測る有効で日常的な指標になる可能性は十分にある。正式な評価や成果指標を使わず、言語を分析する感度の高いツールだけで済むようになるかもしれないという考えは、期待を抱かせる。同時に、対話型AIがどの程度信頼され、採用されるかを左右する、さまざまな倫理的課題も生じる。
人為を感じさせない知性
私たちは、技術の進歩が倫理的な実践に挑戦を突きつける時代に生きている。対話型AIの分野も例外ではない。私の考えでは、目的を明確にし、それを利用への関与や成果の測定方法に反映させることは、倫理性を備えた枠組みの確保に大きく役立つ。その枠組みを形づくる助けとなる、6つの原則を挙げよう。
1. ボットはボットと呼ぶ
審査員がボットを人間だと信じ込まされることを期待するローブナー賞に参加するのでなければ、ボットを人間として提示する正当な理由はほとんどない。
これは、フェイクニュースへの対策、顧客への誠実な対応、あるいは誰かがボットに自傷行為をするつもりだと話した場合に適切に応じることよりも、繊細な議論である。選択の問題でもある。たとえば、顧客サービスの向上のため、またはより率直に話せるために、ボットとの会話を好む人がいることが研究で示されている。
2. 目的を透明にする
対話型AIシステムには複数の目的がある場合もあるが、主要な意図を隠さないことが重要だ。情報提供が目的のように見せながら、実際には販売を意図している対話型AIシステムでは、消費者が情報を信頼することも、提示された商品を買う気になることも難しくなる。
これは、アマゾンのAlexaのようなシステムにとって重大な検討事項であり、そのためにAmazon’s Choiceが設計されたとされる。アマゾンによると、Choiceは高評価で価格も手頃な商品をPrime配送で選ぶ際の時間と手間を省く。しかし、これは事実に基づく情報なのか、それともアマゾンの商品を優先するなど、別の基準も関係しているのかは明確でない。
3. 目的に沿って測定する
先に述べたように、指標は目的に関連し、顧客にとって意味のあるものでなければならない。対話型AIシステムがその目的に照らして変化をもたらすという、妥当で独立した証拠を示せる企業や組織は、疑わしい指標をマーケティング用語で覆い隠すところより、ますます高く評価されるだろう。
4. ビジネスモデルを見直す
デジタル分野では、倫理に反する行動を促すビジネスモデルもある。たとえば、閲覧数に基づく広告収入を得るため、ソーシャルメディア大手は無限スクロールや「いいね」など、依存性を高める仕掛けを意図的に作り出してきた。無限スクロールを考案したアザ・ラスキンは、これを「行動のコカイン」と表現した。彼はこう述べている。「あなたのスマートフォンの画面の裏側には、たいてい千人ものエンジニアがいて、依存性を最大限高めようとこの仕組みに取り組んできた。」
技術の変化が速く、収益化が後追いになることも多いため、意図しない結果につながる場合がある。たとえば、エアビーアンドビーは現在、価格をつり上げ、地域の賃貸コミュニティーを混乱させる「エア・マネジメント」業者への対処を迫られている。対話型AIにも、同じ傾向や誘惑が存在する。AI業界として、意味のある利用と目的に導かれた成果に基づくビジネスモデルを築くことが、私たちの役割である。
5. 直ちに行動する
動的で予測の難しい対話型AIの分野では、倫理的な問題を常に予見できるとは限らない。問題が生じたときには、リーダーシップを発揮し、「害を与えない」という原則を実践に移す必要がある。たとえば、遠隔監視に使われたことを受けてドイツの規制当局が対話型人形を市場から回収した際、メーカーのジェネシス・トイズにはコメントを求めても連絡がつかなかった。どうやら人形のケイラは、作り手よりも責任ある対応をしたようだ。「あなたを信頼していい？」と尋ねられると、「わからない」と答えた。業界は協力して責任を担う必要がある。AIパートナーシップのような取り組みが、その役割を担うことを期待したい。
6. 自主規制する
自主規制の欠如は、個々のブランドだけでなく業界全体に影響する。昨年、フェイスブックの研究者は、交渉で欺瞞的に振る舞えるボットを誇らしげに発表した。ドリフトのチャットボット報告書によると、チャットボットがフェイスブック経由でしか利用できない場合、消費者の27%が利用をためらうという。
結論として、対話型AIには、人間の体験を豊かにする大きな可能性があり、期待も高まっている。しかし私の見解では、この分野で長期的に成功するのは、経済的利益を倫理的な実践より優先しない企業だろう。最も高い人気を得るブランドは、実践において透明性を保ち、意味のある成果を測定し、不公正ではなく公正な前提に基づいて収益化する、目的を重視する先駆者たちが率いるだろう。
