パンデミックによって、企業におけるAI技術の導入が加速した。
しかし、AIが倫理的かつ透明性をもって利用されているという消費者の信頼がなければ、その可能性を最大限に引き出すことはできない。
企業は、その信頼を得るための体制と手順を直ちに整え始めなければならない。
私たちは、生きてきた中でも最も困難で甚大な健康危機の一つを経験している。今年は、数え切れないほどの命と生計が失われた。その真の世界的影響は、いまだ明らかになっていない。新型コロナウイルス感染症のパンデミックは、世界のビジネス環境も変えた。リモートワークやデジタル取引の増加により、データの生成速度と量が増す一方、あらゆる企業リーダーを取り巻く経済状況も急速に変化している。こうした状況を背景に、とりわけ人工知能（AI）をはじめとするテクノロジーは、組織や国が適応し、人々の安全を守り、暮らし方や働き方を改善するうえで、これまで以上に大きな役割を担うようになった。
しかし、こうした新技術によるイノベーションを迅速に進めたいという意欲や推進力は、同じイノベーションに対する消費者の信頼を慎重に築く必要性と両立させなければならない。消費者にこの歩みへ加わってもらうことが鍵となる。Longitudeによる新たなレポートでは、テクノロジーへの信頼を育みながらAIのイノベーションを促進するという、この微妙なバランスを取り上げている。これは私が強い関心を寄せるテーマであり、今年のダボス会議でも取り上げた。そこで、レポートの主な調査結果をここでさらに詳しく見ていきたい。
透明性がすべて
最近まで、AIに何ができるかに注目が集まり、それをどのように実現するかはあまり重視されてこなかった。今日の組織は、自らのシステムやアルゴリズムが責任ある、公正で、倫理的かつ説明可能なものであることを示せなければならない。一言で言えば、AIが信頼に足ることを示す必要がある。
世界的なテクノロジー企業によるAIの不適切利用が大きく報じられたことで、AIに対する消費者の信頼は損なわれた。その後の余波により、データや個人情報の利用をめぐるより広範な問題への世界的な認識も高まった。
その結果、テクノロジーへの信頼は、もはや当然のものと見なすことはできず、獲得しなければならない。この点で、組織は自らのテクノロジーを「無実が証明されるまでは有罪」と考えるべきだ。自社のテクノロジーを責任ある形で利用していることを積極的に世の中に示し、必要に応じてシステムによる判断を説明し、正当化できるよう備える責任は、組織にある。EU一般データ保護規則（GDPR）に定められているように、私たちには、自動化された判断の論理、重要性、想定される結果について意味のある情報を得る権利、すなわち「説明を受ける権利」がある。企業は、こうした技術をどのように適用するかを検討し、個人情報は必要な場合に限り、利用者の同意を得て使用しなければならない。AIの開発段階からこれらの原則を組み込むことで、企業は当初から倫理性と透明性を確保できる。
倫理的なAIへの移行がもたらす影響は、すでに表れている。最近のCapgeminiの調査によると、AIが倫理的だと認識されている企業に対して、消費者の62%がより強い信頼を寄せていた。また、61%はその企業を友人や家族に勧める可能性が高く、59%はその企業への忠誠心がより強かった。テクノロジーの仕組みをこのように率直に伝える企業は、AIの可能性を最大限に活用していると消費者から信頼されやすい。
AIは最も優れた問題解決手段
新型コロナウイルス感染症のパンデミックは、想像もしなかった速さでデジタル化を加速させた。その結果、多くの課題を克服し、機会を活用しなければならない不安定な環境が生まれた。決済業界では、サイバー攻撃や不正行為が急増する中、消費者や企業を守るという課題に直面してきた。例えば、利用者の固有の行動に基づいて本人確認を行う当社のNuData技術では、攻撃がより巧妙化し、現在は3件に1件の攻撃が人間の行動を模倣している。不正利用を目的として悪意ある者が偽アカウントを作成するアカウント作成攻撃は、パンデミック中に2019年の同時期と比べて500%増加した。ある世界的な小売企業だけでも、不審なアカウント作成が679%増加した。全体として、世界の不正行為発生率は約20年ぶりの高水準に達している。PwCの最新の数値によると、過去2年間に不正行為を経験したと報告した企業は47%に上る。
ネットワークにAIを導入していなければ、防御態勢を維持することは不可能だっただろう。AIは、この新たな世界に適応し、安全を確保するうえで不可欠な存在であり、今後もそうあり続ける。AIの能力が高まり、広く普及するにつれて、倫理的な開発と導入を確実にする体制を整えなければならない。
消費者が主導し、消費者を重視
消費者は膨大な量のデータを生み出す。2025年までに、推定463エクサバイトのデータが生成される見込みであり、その量は今後も増える一方だ。よく引用される数字によると、これまでに作成されたデータの90%は、直近2年間に作成されたという。AIを活用したシステムは、こうした情報の一部を、データを生み出した人々にとって目に見える恩恵へと変えるために開発されてきた。つまり、私たちの生活をより便利にするためだ。
しかし、AIは技術的で複雑なツールだ。AIを最も効果的に機能させるために必要な信頼は、消費者が現実の場面でその恩恵を目にし、実感したときに生まれる。この点で、信頼は重要な差別化要因、すなわち企業の競争優位性となり得る。今後、AIの付加価値サービスの恩恵を最大限に享受できるのは、AIの運用を信頼された企業だけだ。AIはオンライン上で消費者の安全を守り、買い物体験に変革をもたらすだけでなく、農業にも変革をもたらし、さらに環境に新たな息吹をもたらしている。適切に活用できれば、その可能性は無限に広がる。
全体像を捉える
これほど不確実な時期には、遠い先を見通すのが難しいこともある。しかし今こそ、企業リーダーが一歩引いて全体像を捉えるべきときだ。状況は変わり、その変化は恒久的なものとなった。デジタル化した未来は前倒しで到来し、社会は新たな課題の解決にAIを活用する方法について、今後もより高い透明性を求め続けるだろう。
テクノロジーを責任ある形で開発し、信頼を育むことは、「ニューノーマル」における企業の成功に不可欠である。そして何より、すべての人にとってより豊かで平等な世界を築くために重要だ。
