本論説の筆者であるMala Anand氏は、SAPのインテリジェント・エンタープライズ・ソリューション＆インダストリーズ担当プレジデントです。
AIシステムが倫理的判断や道徳的価値観をどのように体現しうるかへの懸念が高まり、適切な問いが投げかけられています。しかし多くの場合、その答えは技術や技術者に責任を負わせることにあるようです。
責任を他者に委ねることは答えではありません。
倫理的で効果的なAIアプリケーションの構築には、C-suite全体の関与が必要です。それを正しく行うことは、重要なビジネス上の問いであると同時に、CEOのリーダーシップを必要とする価値観の表明でもあります。
AIがもたらす倫理的懸念は業界によって異なります。例えば自動運転車のジレンマは、顔認識における偏りの問題や、新たなマーケティング・アプリケーションに伴うプライバシーの懸念とは全く性質が異なります。それでも、両者には共通の問題があります。最も慎重に設計されたアルゴリズムでさえ、開発者の世界観を反映した入力に基づいて判断を下すのです。
AIとその関連技術である機械学習やRPA（ロボティック・プロセス・オートメーション）は、今後も定着していくでしょう。2017年から2018年にかけて、McKinsey & Companyの調査により、ビジネスプロセスに少なくとも1つのAI機能を組み込む企業の割合が2倍以上に増加しました。別の調査でMcKinseyは、業界横断でAIと分析を導入することの価値を年間9.5兆ドルから15.4兆ドルと見積もっています。私たち自身の取り組みでも、業界を問わず多くのリーダーが、既存事業における新たな効率性の発見と、新しいビジネスモデルの検証の両方を目的として、この技術を積極的に取り入れている様子を目にしてきました。
後戻りはできません。
「倫理的で効果的なAIアプリケーションの構築には、C-suite全体の関与が必要です。」
undefined
こうした勢いを受けて規制を求める声もあがっていますが、世界全体で一貫した規制の枠組みを作ることは困難でしょう。規制当局は、正当な社会的懸念に対処する必要性と、イノベーションや生産性を引き続き後押しする必要性のバランスを取りながら、同時に国際市場における競争力を維持しなければなりません。
EYによる最近の論文は、AIと機械学習が、その利用を監督する私たちの能力を上回るペースで進展していると主張し、明確に構想されたガバナンスと倫理的枠組みなしにAIを利用することのリスクを指摘しています。EYはこれらの検討事項をリスク管理として位置づけていますが、実際には、新たな技術を開発・導入する際に信頼を築くための指針でもあります。
EYだけではありません。世界経済フォーラムの第四次産業革命センター、IEEE、AI Now、The Partnership on AI、Future of Life、AI for Good、およびDeepMindなどの組織も、AIの利点を最大化し、そのリスクを抑えることを目的とした原則を策定しています。
予測不可能なリスクか？
私たちの経験上、こうした課題をうまく管理してきた組織は、新たな考え方を取り入れています。その考え方とは、結果は意図しないものになることがあっても、必ずしも予測不可能とは限らないというものです。
言い換えれば、責任を回避するために、誤り、拙い判断、先見性の欠如を意図しない結果と混同すべきではありません。技術が社会のチェック・アンド・バランスを超えて先行しようとする中、すべてのビジネスリーダーは、自社のアプリケーションが及ぼしうる影響について自問しなければなりません。
組織は、取り組みを導くために非常に具体的なビジネス成果に焦点を当てることで、AIの責任ある構築と活用を確保することができます。明確に定義されたビジネス成果のために目的特化型のアプリケーションを設計することは、責任ある成長のためのガードレールとなり、意図しない結果が生じる可能性を抑え、負の影響を緩和できる段階で早期に表面化させることができます。
ただし、これは企業の価値観が明確であり、C-suiteがITと連携して、アプリケーションの構築に伴う多くの意思決定にそれらの価値観を適用する場合にのみ当てはまります。
私たちは25の異なる業界との取り組みを通じて、これを確認してきました。ベストプラクティスも現れつつあります。倫理的懸念はアプリケーションごとに異なりますが、同じ枠組みが役立ちます。よく理解されたビジネス成果に焦点を当てる組織は、パーソナライゼーションが侵害ではなく価値であり、データソースが偏りについて精査され、データプライバシーが指針となり、透明性と効率性が等しく重視される責任あるアプリケーションを開発するうえで、最も有利な立場にあります。
企業が特定のビジネス課題の解決にAIを採用する場合、例えば自動請求、一般会計、予算管理、コンプライアンス、あるいは調達、ロジスティクス、顧客対応などであれば、AIをAIのためだけに導入するよりも、その影響は把握しやすく、管理しやすくなります。これらの成果は組織の中核的使命の中心にあり、十分に理解されているため、企業の価値観を開発プロセスに対応させることは一歩を踏み出すだけで済みます。
中核的なビジネス・アプリケーション
例えば、あなたが自動車部品のメーカーだとしましょう。コネクテッドデバイス、予測分析、AI、機械学習を組み合わせ、製造における深層学習の性能を向上させることで、工場設備の状態に関するデータを活用して、高額なダウンタイムを回避できます。顧客サービスに情熱を注ぎ、それを中核的な企業価値としているのであれば、アプリケーション開発においてこれを検討する価値があるかもしれません。
「PwCの最近の調査では、CEOの77%が、AIによって自社の事業運営の脆弱性と混乱が高まると回答しています。」
undefined
あるいは、別の種類の成果を実現する別種のアプリケーションを構築しているとしましょう。例えば、地域ごとの販売パターンを特定し、より焦点を絞ったキャンペーンを展開できるようにする場合です。戦略には、コネクテッドデバイス、分析、AI、組み込み型機械学習が含まれるかもしれません。IoTを用いて、資材の流れを追跡する仕組みを開発することもできます。店舗別の販売履歴があれば、店頭監査を監視してキャンペーンの成功をベンチマークできます。その結果、年間事業計画を数分で利用可能にでき、自動生成されるレポートによって、数週間にわたる手作業によるデータ準備も不要になるでしょう。
これらの事例は、ニュースで大きく取り上げられる事例に比べると地味に見えるかもしれません。しかし、各社で次々と開発されている中核的なビジネス・アプリケーションの典型例です。いずれも、企業の中核的使命とその価値体系の両方の中心にある、十分に理解された成果を軸に定義されています。両事例は、企業がすでに深い知見を持つ分野にアプリケーションを焦点化し、前提条件が透明で、中核となるデータが馴染みがあり信頼できる状態であり、さらに最も重要なことに、リスクが大きく経営幹部による監督が不可欠である分野に焦点を当てることで、意図しない結果を予測し回避できることを示しています。
CEOがリスクを認識することは、良い第一歩です。実際、PwCの最近の調査では、CEOの77%が、AIによって自社の事業運営における脆弱性と混乱が高まると回答しています。
価値観への訴えがC-suiteに響かない場合は、自己利益に訴えるべきです。Capgemini Research Instituteによる最近の調査では、倫理的なAIを実践する組織には、顧客や従業員がより高い忠誠心、より多くの取引、さらには擁護する意思をもって報いる一方で、そうでない組織は罰するとの結論が示されています。この調査は、問題に慎重に取り組まない企業には、評判リスクと利益への直接的な影響の両方があることを裏付けています。
業界を問わず多くの現場で私たちが見てきたところでは、最も責任あるAIは、経営陣が全面的に関与し、アプリケーションが企業の使命の中心にある明確なビジネス成果によって定義され、ITと経営陣が協力してビジネス上および倫理上のジレンマに共に向き合うときに実現します。
