自動化から拡張、さらにその先まで、人工知能（AI）はすでにビジネスの進め方を変えつつあり、社会全体に利益をもたらす事実上無限の可能性を切り開いています。
あらゆる分野の企業が、AIがもたらす潜在的な大きな利益の取り分を獲得しようと意欲を燃やしており、PwCの調査によると、その規模は2030年までに世界経済に15兆7,000億ドルを上乗せする可能性があると推計されています。
AIに対する懸念は消費者とビジネスリーダーで異なる
こうした期待がある一方で、より賢いAIシステムの継続的な進化と、人と機械の相互作用の一層の広がりによってもたらされる急速な変化と大規模な変化は、ビジネスリーダーと消費者の間で大きく異なる懸念も生み出しています。
消費者は、自分たちのニーズに合わせたサービスの利便性を求めるとともに、企業が自分たちに偏見を持っていないことを知って安心したいと考えています。また、政府がデータの利用方法を規制する法律によって自分たちを守ってくれることも望んでいます。
一方、ビジネスでは、多くの場合、AIがもたらす機会をまだ模索しているとともに、同時に起こりうるリスクについての理解を深めている段階にあります。
PwCの最新のグローバルCEO調査では、AIをめぐるリスクと機会の双方が、トップ経営陣にとって重要な焦点であることが明らかになりました。CEOの85%が、今後5年間でAIが自社のビジネスの進め方を大きく変えると考えています。一方、AIをどこまで信頼できるかという問いについては、意見はそれほど明確ではありません。CEOの4分の3超がAIは「社会にとって良いもの」だと考えている一方で、それを上回る割合である84%が、信頼されるためにはAIに基づく意思決定が説明可能である必要があると同意しています。
PwCが最近発表した責任あるAI診断では、これまでに約250名の上級ビジネス幹部を対象に調査を行いました。その結果、回答者の間では、責任ある倫理的なAI実践の理解と適用のレベルが組織によって大きく異なり、多くの場合は未成熟であることがわかりました。また、責任あるAI実践を導入するために必要なスキルへのアクセスに関する課題も浮き彫りになりました。
経営幹部が組織内のAI実践を見直し、一連の重要な質問を投げかけ、必要に応じて、統制やプロセスが不十分または不適切であると判明した領域に対処することにより、AIがもたらす様々な潜在的リスクに対処するための措置を講じる明確な必要性があります。
5つの主要な側面からAIの課題に対応する
リスクとともに、AIの台頭は信頼と説明責任に関する本質的な課題ももたらします。これらに効果的に取り組むために、組織はAIをめぐる課題とリスクを理解するとともに、その設計と展開においてこれらを十分に考慮すべきです。
PwCは、責任あるAIアプリケーションを設計・展開する際に組織が対処すべき5つの主要な側面を支援するため、包括的な責任あるAIツールキットを開発しました。
1. ガバナンス
責任あるAIの基盤は、エンドツーエンドの企業ガバナンスです。最も高いレベルでは、AIガバナンスは、組織がAIアプリケーションの結果と意思決定に関する重要な質問に答えられるようにする必要があります。その質問には次のものが含まれます。
● 誰が説明責任を負うのか。
● AIはどのようにビジネス戦略と整合しているのか。
● 出力を改善するためにどのプロセスを変更できるか。
● パフォーマンスを追跡し、問題を特定するためにどのような統制を整える必要があるか。
● 結果は一貫性があり、再現可能か。
こうした質問に答え、AIシステムの結果に対応できるようにするには、多くの組織が慣れているものよりも柔軟で適応性の高い形のガバナンスが求められます。
2. 倫理と規制
組織は、道義的に責任があり、かつ法的にも倫理的に擁護可能なAIソリューションを開発、導入、利用するよう努めるべきです。近年、AIに関連する倫理原則を説明する文書が70以上公表されています。
倫理原則に異論を唱えることは難しい一方で、企業は、それを日々の意思決定に影響を与える具体的な行動へと落とし込むことに苦労しています。原則を実行可能なものにするには、現場のスタッフ向けの具体的なガイドラインとして文脈に即したものにする必要があります。これには、各AIソリューションの倫理的配慮を文脈に即して捉え、倫理的リスクを特定して軽減することが含まれます。
3. 解釈可能性と説明可能性
AIを活用するあらゆる企業は、いずれかの時点で、特定のAIモデルが特定の判断に至った理由を様々な利害関係者に説明する必要が生じます。その説明は、規制当局、データサイエンティスト、事業スポンサー、消費者を含む、異なる利害関係者それぞれに合わせて行うべきです。
AIの判断における解釈可能性の欠如は、エンドユーザーや顧客にとって不満の種となるだけでなく、組織を運用上、評判上、財務上のリスクにさらす可能性もあります。AIシステムへの信頼を醸成するには、人々が基盤となるモデルの「内部」を確認し、モデルの学習に使われたデータを検証し、各判断の背後にある推論を明らかにし、すべての利害関係者に対して適時に一貫性のある説明を提供できるようにする必要があります。
4. 堅牢性と安全性
効果的で信頼できるものとするため、AIシステムは回復力、安全性、そして安心性を備えている必要があります。回復力の観点では、次世代のAIシステムは、ますます「自己認識的」になる可能性が高く、誤りや不正確な、あるいは非倫理的な判断を検知して修正する能力を内蔵することになるでしょう。
安全性の観点では、AIのデータやシステムが侵害または「ハイジャック」された場合に生じうる壊滅的な結果を踏まえ、AI開発プロセスの初期段階からセキュリティを組み込み、すべてのAIシステム、データ、通信を確実に対象とすることが不可欠です。例えば、「止まれ」の標識の画像が改ざんされて「30mph」の標識と誤認識された場合、自動運転車にとって危険な事態を招く可能性があります。
何よりも、AIシステムは、それによって生活に影響を受ける人々、すなわちAIの利用者であれAIによる判断の対象者であれ、その人々にとって安全でなければなりません。
5. バイアスと公平性
バイアスは、AIに関連する最大のリスクの一つとしてしばしば挙げられます。しかし、バイアスを排除することは、一見するよりもはるかに複雑な課題です。
AIのバイアスをめぐる公の議論では、人間の要素を考慮せず、アルゴリズム自体に責任が押し付けられることがよくあります。また、人々は、公平性という主観的な視点を通してバイアスを認識します。公平性は、地域ごとの強い差異を伴い、多くの異なる、さらには相反する定義を持つ社会的概念です。
実際には、AIが関与しているかどうかにかかわらず、すべての判断をすべての当事者にとって公平にすることは不可能です。しかし、AIシステムを調整してバイアスを軽減し、可能な限り公平で、組織の企業倫理規範に従い、かつ差別禁止規制を遵守する判断を可能にすることはできます。
一つだけ確かなことがあります。組織がAIの持つ可能性を余すところなく実現するためには、上記の側面に対処することで、AIの利用が責任あるものであることを確保しなければなりません。
端的に言えば、AIが責任あるものでなければ、それは真に知的なものとは言えません。組織は、AIを活用した未来を計画し構築する際、このことを念頭に置かなければなりません。
詳細については、PwCの無料の責任あるAI診断を受けるか、責任あるAIのウェブサイトをご覧ください。
