2014年、スティーブン・ホーキング博士は、AIは人類にとって最良の発明にも最後の発明にもなり得ると述べました。それから6年が経ち、2020年を迎えた現在、企業は競争力を維持するために、自社のビジネスで人工知能（AI）をどのように活用するかを検討しています。企業が直面している問いは、利用するAI製品が害よりも益をもたらすかどうかを、どのように評価するかということです。
世界中の多くの公的・民間のリーダーが、アルゴリズムにおける安全性、プライバシー、説明責任、透明性、バイアスをめぐるこれらの問題にどう対処するかを検討しています。例えば、就任予定のEU委員は、今後数か月以内に欧州で倫理的なAIの開発を確保するための法整備を望んでいると表明しています。
AIの主要なリスクの一つは、質の低いデータや不適切に構築されたアルゴリズムが不良な結果をもたらしうることです。これは、企業が必要な洞察を得られないという内部的な問題だけでなく、利用者が自分たちを排除または周縁化する決定だと考えた場合には、顧客との関係においても、それを利用する企業にとって望ましくない結果につながりかねません。例えば、アルゴリズムが融資や採用において偏った判断を下す可能性があります。
では、企業はどうすれば先行し、落とし穴を避けることができるのでしょうか。倫理的なAI活用に関する5つの教訓をご紹介します。
最高AI倫理責任者を任命する：最高AI倫理責任者は、企業のAI活用を導くことができます。特に、顔認識や個人データの活用など、より物議を醸す用途においてその役割を果たします。2017年、私は『IEEE Spectrum』誌において、企業は最高AI倫理責任者を任命すべきだと提言しました。2014年には、あるAIスタートアップが私をこの役職に招きましたが、その役割は白紙の状態から定義する必要がありました。取締役会に懸念事項を伝えられるようにしたほか、顧問団を組織し、製品チームと連携して、製品の企画段階から倫理的な枠組みを組み込むよう努めました。同様に、Salesforce社も最高技術倫理責任者とAI倫理専門家を任命し、AI開発チームと連携させています。
リーダーを教育する：経営幹部と取締役会の双方が、AI活用による利点と課題について理解を深める必要があります。企業がこれを実践できるよう、世界経済フォーラムは、スイスのダボス・クロスターズで1月21日から24日にかけて開催される年次総会において、取締役向けのツールキットを公表します。このツールキットの中核には倫理モジュールがあり、取締役がC-suite（経営幹部）に対して的確な質問を投げかけられるようにしています。倫理諮問委員会を設置することも、企業がAIの開発や販売の方法を検討する上で役立つでしょう。
政府規制を注視する：政府規制は、企業がAI製品の提供方法にどのように影響するかを左右しえます。例えば、フォーラムは英国政府と協力し、政府によるAI調達のための倫理ガイドラインを共同で策定しました。これらのガイドラインは、UAEおよびバーレーンでも試験的に導入されており、その活用を世界規模で拡大することが目標とされています。主な効果は次のとおりです。政府は、長期にわたる規制手続きを経ることなく、自国の管轄内における倫理的なAI開発に対する期待を示すことができます。企業は、政府の許容範囲について基本的な理解を得られるため、自信を持ってR&D資金を投じることが可能になります。また、倫理的な設計開発およびAIツールの利用について検討する企業の数が増加します。
リスクを特定する：企業は、特定のAIリスクがどこで生じるかを認識しておくべきです。例えば、人事分野におけるAIの活用などが挙げられます。こうしたリスクを特定したら、この分野で策定が進んでいる基準や認証制度を検討することが有益です。この課題に対応するため、フォーラムは人事部門がAIソリューションの導入を検討する際に利用できるツールキットを作成しています。
先を見据える：AIが職場に導入され、従業員と協働するようになった際に、どのように従業員の再教育や教育を行うかについて、企業は今から検討を始めるべきです。また、倫理的な設計開発とAIの活用によってどのような新市場が開かれうるかを検討するとともに、アルゴリズムや設計の変更を確認し、倫理的なアプローチが確保されているかをチェックする方法を計画する必要があります。
私の願いは、企業がAIから得られる恩恵を逃すことになりかねない「テクノラッシュ（技術への反発）」を回避できることです。AIツールの導入における倫理的配慮を確保するために用いるガバナンスの仕組みについて、慎重かつ先見的に検討しなければなりません。技術的な解決策やツールへの信頼を築くことが、私たちの最も重要な目標でなければならず、そうすることで人類と地球がその活用の恩恵を受けられるのです。
