デジタル変革が複雑化し、産業全体でAIの導入が急速に拡大するなか、最高AIエシックス責任者(CAIEO)の役割は、先進的な企業において重要性を増しています。
先見性のある企業は、組織の各部門にわたってAIに関する企業価値を実践に移すため、CAIEOの役割に注目しています。CAIEOは、開発、利用、導入されるAI技術が信頼できるものであることを確保するとともに、開発者が、自らの製品にこうした特性を容易に組み込めるよう、適切なツール、教育、研修を備えていることを確保する必要があります。
CAIEOは、AIの技術、ツール、プラットフォーム、AIのリスクと社会への影響、ビジネス戦略、産業、公共政策について学際的な知識を持つとともに、優れたコミュニケーション能力を備えている必要があります。
グローバル・フューチャー・カウンシルの「人類のためのAI」に関する新たな報告書では、CAIEOの役割およびその他の人材に対し、組織全体でAIの公平性を実践に移すための教育のあり方が検討されています。
人工知能(AI)は何十億もの人々の生活に影響を及ぼし、社会を急速に変革するとともに、人間であることの意味を問い直しています。AIは単なる流行語にすぎないと考える人もいますが、個人向けデジタルアシスタントから、不正や故障の予測、自動運転および運転支援、健康診断に至るまで、あらゆる分野でソリューションを可能にするほどの力を持っています。AIは、教育や個別指導のパーソナライズ、新たな雇用の創出、そして新型コロナウイルス感染症(COVID-19)のパンデミックとその余波への対応にも役立ちうるものです。
AIには前向きな効果がある一方で、一部のAIアプリケーションは正当な懸念やリスクを生み出しています。AIエシックスは、こうした懸念への対処とリスクの軽減に向けた技術的・非技術的な解決策を定義し実装することを目的とする、学際的かつマルチステークホルダー型の研究分野です。
例えば、AIソリューションは、基礎となるデータが特定の人口層に偏っているために、意図せず差別的な結果を生み出す可能性があります。これにより、既存の構造的な不公正が深刻化し、権力のバランスがさらに偏り、人権が脅かされ、資源や情報へのアクセスが制限されるおそれがあります。
一部のAIシステムは、なぜそのような判断を下したのかについてほとんど、あるいはまったく説明がないブラックボックスのように振る舞う可能性があります。FICOによる「責任あるAIの現状」に特化した最新の報告書によると、、回答企業の3分の2(65%)は、特定のAIに基づく判断や予測がどのように行われるのかを説明できていません。これはAIへの信頼を損ない、その結果として導入を妨げ、この技術がもたらす前向きな効果を減少させるおそれがあります。また、企業の評判や顧客からの信頼を損なうとともに、企業の価値観と矛盾する可能性もあります。
最高AIエシックス責任者(CAIEO)の主な目標は、AIエシックスの原則を、企業、組織または機関の業務の一部にすることです。CAIEOは、AIが組織にもたらす意図しないリスクについて、CEOと取締役会に助言し、説明責任の枠組みを構築します。CAIEOは、企業が既存または予想されるAI規制を遵守するよう支援するとともに、組織のAIエシックスのガバナンスおよび教育機能の多くの実施を監督すべきです。
BCG、Salesforce、IBM、Microsoftなど、いくつかの企業は、さまざまな名称で既にこの役割を担っています。――責任あるAI責任者、AIエシックス・グローバルリーダー、グローバルAIエシシスト、または最高責任あるAI責任者などです。「技術リーダーが、自社の製品が欠陥を抱えており、雇用、プライバシー、人権に有害となりうることを公に認める中で、人工知能のエシックス専門家を求める声は高まっています」と最近のWSJの記事は述べています。
非常に大まかに言えば、企業には、AIを活用したソリューションが、関係するステークホルダーへの危害の可能性を軽減する形で開発されることを確保するための、AIエシックスの枠組みが必要です。より具体的には、CAIEOは広範なAIエシックスの目標の定義を主導し、その後、企業がそれらを達成する方法を理解できるよう支援すべきです。CAIEOは、開発されるAI技術が適切な特性(公平性、堅牢性、説明可能性)を備えていることを確保するとともに、開発者が、自らの製品にこれらの特性を容易に組み込むための適切なツールと研修を備えていることを確保する必要があります。また、AIの導入に伴うリスク(社内および他社に対するリスクの双方)が適切に軽減されていることを確実にしなければなりません。
これらすべてを実現するために、CAIEOの役割には次のものが必要です。
学際的な知識: AIエシックスの課題は、技術的な解決策や関連する方針、標準、法律の遵守だけでは対処できません。CAIEOには、技術的なAIの知識と認識、倫理的な考慮、社会科学および技術法への理解、そしてビジネス戦略に関するノウハウを含む、学際的な知識とスキルが必要です。また、製品チームが責任を持ってAIを開発できるツールや枠組みの作成を促進するとともに、企業全体、他の専門組織、政策立案者と連携し、グローバルレベルでのベストプラクティスを定義・統制するための法律、規範、標準の策定に貢献する必要があります。
効果的で包括的なガバナンス: 企業は、すべての部門の代表者を含み、意思決定権限、可視性、ガバナンス権限をCEOおよび上級幹部から十分に支援された状態で、CAIEOが主導するAIエシックス委員会を設置することで、CAIEOを支援し、その監督を行うことができます。CAIEOは、各取締役会メンバーが自らの事業部門におけるAIエシックスのソリューションを理解し、それらを業務の一部にできるよう支援することができます。大規模な組織では、CAIEOは、AIソリューションを構築または利用する際に、企業全体としてAIの偏りをどのように検知し軽減すべきかを定める全社的な指示などのトップダウン型・中央集権的なガバナンス施策と、特定の事業部門やAIソリューションに特化したツールなどのボトムアップ型の施策を実施すべきです。
戦略的差別化とビジネス価値: これまでCAIEOの必要性に関する議論の多くはリスク軽減に焦点を当ててきましたが、この役割は、企業がAIエシックスを単に遵守すべき一連のガードレールとしてではなく、価値の源泉であり戦略的な差別化要因として捉えることも後押しすべきです。AIエシックスの原則とその実装は、すべての社内外のステークホルダーが責任を持ってAIを開発、導入、利用することの価値を理解できるよう、企業の価値観やビジネスモデルと結び付けられるべきです。CAIEOは、製品開発、実装、ビジネスへの導入に伴う費用を含め、倫理と公平性への投資がもたらすビジネス価値を理解しなければなりません。
公共のコミュニケーションと提唱: CAIEOには、企業内外のステークホルダー間の対話と信頼を促進するためのコミュニケーション能力も求められます。人々が課題を理解し、行動を変えるよう説得するには、組織のあらゆる側面にわたって、強力なコミュニケーション能力と連携が必要です。CAIEOは、対象となる聴衆に向けたコンテンツを準備し、対話と議論を前進させ続けなければなりません。AIエシックスには、規制、ガバナンス、政策の課題に対する深い理解が必要です。とはいえ、法律や規制は常に技術やAIの導入に後れを取るため、価値観、規範、そして社会的な認識に重点を置くことが不可欠です。
全社的な関与: これらすべては一人(またはチーム)で成し遂げられるものではなく、すべての事業部門がこれらの目標の達成に貢献する、全社的なアプローチが必要です。AIの要件を定義し、技術ツールを構築し、教育資料を作成する必要があります。クライアントを巻き込み、チームへの教育を行う必要があります。自律型および知能システムに関するIEEEの倫理的に整合した設計ガイドラインによると、「[企業は]、技術と、価値に基づくシステム革新を支える社会的プロセスの両面で、倫理的に整合した設計を現実的に実施できる、上級レベルのマーケター、倫理学者、または弁護士の役割を創設する必要があります。」
データとAIは、ほとんどの企業にとって中核的な存在になりつつあります。これらの組織は、このデータ中心の新たな時代において、ビジネスモデルと戦略的価値を再構築する一方で、AIエシックスの課題とリスクを正しく効果的に特定し、対処することが不可欠です。このためには、AIを責任あるかつ信頼できる方法で構築、導入、利用することによって社会的価値とビジネス価値の両方を創出する取り組みを主導するために、CAIEOの任命から始めることを提唱します。この役割により、AIエシックスに対する全社的なアプローチの構築が可能になります。
