倫理的なAIへの取り組みは、実行されて初めて価値を持つ。
ベストプラクティスの共有は、ますます重要になるだろう。
ここでは、AIに倫理を組み込もうとする企業のための8つの教訓を紹介します。
人工知能（AI）とデータプライバシーの動向を追い続けることは、大きな負担になりかねません。AIには大きな可能性と機会がある一方で、データの不正利用や個人のプライバシーが危険にさらされるといった懸念もあります。これらのテーマを検討するなかで、第四次産業革命が進展するにつれ、AIがもたらす恩恵と危険性をめぐる問いが生まれており、組織がどうすればAIの価値をより良く実現できるかが問われています。
技術製品に「倫理」を組み込むことは、エンジニアや開発者にとって抽象的に感じられるかもしれません。多くのテクノロジー企業が、これを具体的かつ実践的な方法で実現するための取り組みを個別に進めていますが、そうしたサイロを打破し、ベストプラクティスを共有することが不可欠です。互いに協力し合いながら学び合うことで、業界全体の水準を引き上げることができます。その出発点として適しているのは、信頼を得るための取り組みに焦点を当てることです。
多くの企業が、AI製品の設計と展開へのアプローチに関する高次の原則を発表しています。しかし、原則は実際に実行されて初めて価値を持ちます。Workdayは最近、当社が原則をどのように運用に落とし込んでいるかを示す倫理的AIへのコミットメントを公表しました。これは、顧客サービス、誠実さ、イノベーションという当社の中核的価値観に直接基づくものです。当社の経験に基づき、組織全体でこれらの原則を推進しようとするテクノロジー企業のための8つの教訓を以下に紹介します。
1. 「AI倫理」の定義を明確にする。この定義は、社内のすべての関係者にとって具体的で実行可能なものでなければなりません。当社では、機械学習（ML）システムが倫理的AIへの当社のコミットメントを反映することを意味します。すなわち、人を最優先し、社会に配慮し、公正に行動して法を尊重し、透明性と説明責任を果たし、データを保護し、企業向けに対応可能な機械学習システムを提供することです。
2. 倫理的AIを製品開発およびリリースの枠組みに組み込む。これらは、開発者や製品チームにとって負担や複雑さを増すだけの別個のプロセスであってはなりません。Workdayは、当社の原則を製品開発の根幹に組み込み、それらへの継続的な準拠を促すプロセスを構築しました。MLに関する新たな管理策を正式な管理枠組みに組み込み、当社のML倫理原則に対する追加的な執行手段としています。開発チームは、データ収集やデータの最小化、透明性、価値観に関する問いを投げかけることで、すべてのML製品を倫理の観点から検証しています。当社はプライバシー分野で長年この取り組みを行ってきており、プライバシー・バイ・デザインのプロセスや、当社の管理策および基準に対する第三者監査もその一環です。Workdayは機械学習のための一連の倫理・バイ・デザイン管理策を採用しており、新技術のリリースや、あらゆる新たなデータ利用について、強固なレビューと承認の仕組みを整えています。当社は、プロセスの継続的な見直しを約束するとともに、新たな業界のベストプラクティスや規制ガイドラインを取り入れるためにプロセスを進化させていきます。
3. 部門横断的な専門家グループを設置する責任あるMLおよびAIの設計、開発、展開に関するすべての判断を導くためです。この取り組みの初期段階で、Workdayは製品・エンジニアリング、法務、公共政策・プライバシー、倫理・コンプライアンスの各チームから専門家を集めた機械学習タスクフォースを設立しました。これらのグループは、自社製品における将来および既存のMLの利用を検証します。製品における将来および既存のMLの利用について議論するために、多様なスキルや視点を結集させたことは、非常に大きな効果をもたらし、製品ライフサイクルの早い段階で潜在的な課題を特定することを可能にしました。
4. 責任あるAIの設計、開発、展開に顧客との協働を取り入れる。Workdayは、製品開発のライフサイクルにおいて、幅広い顧客層から選ばれた顧客諮問委員会を活用し、AIおよびMLに関する開発テーマについてフィードバックを得ています。また、アーリーアダプター・プログラムを通じて、イノベーションサービスを介して新しいMLモデルや機能の試験を行うデザインパートナーとして機能する少数の顧客と緊密に連携しています。これにより、人間中心のMLソリューションを共同開発する過程で、AIとMLに関する顧客のアイデアや懸念を早い段階から理解し、対処することが可能になります。
5. 機械学習におけるバイアスに対して、ライフサイクル全体にわたるアプローチをとる。MLツールは、顧客がデータを活用して人間の意思決定を強化するための大きな機会をもたらします。その機会には、顧客の信頼を維持できる企業向けツールを構築する責任も伴います。そのため、倫理的AIへの当社のコミットメントの重点の一つが、MLにおける有害なバイアスの軽減なのです。当社は「ライフサイクル・アプローチ」を採用し、新製品の当初のコンセプトから公開後の段階に至るまで、さまざまなバイアス評価とレビューを実施しています。
6. 透明性を確保する。MLにおけるデータの倫理的な利用には、透明性が求められます。MLアルゴリズムは非常に複雑になり得るため、企業は、どのようなデータが、どのように、何の目的で利用されているのかを説明するにあたり、一層踏み込んだ対応をすべきです。顧客に対して、自社のMLテクノロジーの仕組みとそれがもたらす利点を説明するとともに、提供するMLソリューションを支えるために必要なデータの内容を明示してください。また、MLソリューションにおける説明責任を顧客に示してください。
7. 従業員が責任ある製品を設計できるよう権限を与える。当社は、必須の倫理研修モジュール、ツールキット、セミナー、従業員のオンボーディング、ワークショップを通じてこれを実践し、従業員がAI倫理へのコミットメントを守るための教育を受けられるようにしています。例えば、人間中心の設計思考ワークショップでは、さまざまなシナリオやペルソナを用いて、Workdayの従業員が倫理的なMLテクノロジーを創出するという当社のコミットメントを理解できるよう支援しています。
8. 自社の知見を共有し、業界の他社から学ぶ。当社は、業界団体や同業者の会合への参加を通じてこれを実践しています。例えば、テクノロジー業界の倫理的枠組みの策定を目的とした、世界経済フォーラムの「技術の倫理的な設計と展開」に関する運営委員会などです。さらに、Workdayは新たな基準や計画を監視し、それらに貢献することを重視しています。米国では、倫理的AIに関して議員や政府機関の担当者と積極的に協議してきており、「業界による倫理的AIへのアプローチ」をテーマとした技術の倫理的な設計と展開議会AI議員連盟のスタッフ向け説明会の企画・参加を含め、テクノロジー業界の倫理的枠組みの策定を支援しています。また、複数の場で、業界と政策立案者の間の橋渡し役を果たしてきました。さらに、米国国立科学財団による議会AI議員連盟「国家人工知能研究開発戦略計画」の改訂を支援し、米国国立標準技術研究所（NIST）による報告書国家人工知能研究開発戦略計画「人工知能の標準とツールの開発」の作成も支援しました。人工知能の標準とツールの開発。当社は、AI倫理ツールの開発においてNISTの役割を拡大するよう引き続き提唱しています。欧州では、Workdayが欧州連合の「高水準専門家グループ（HLEG）」の倫理ガイドラインに関して、信頼できる人工知能評価リストを評価するパイロット事業に参加しました。
倫理的AIのこの変化し続ける世界を歩むなかで、実践を共有し、これまでに得た知見を明らかにすることがこれまで以上に重要になるでしょう。拡大と導入に効果的だったアプローチについて、他社からの意見を聞くことを切に望んでおり、共有の機会を歓迎します。実際、Workdayの世界経済フォーラムとの協働の目的は、責任ある倫理的なテクノロジーを推進するためのベストプラクティスの共有に、他社にも参加してもらうことです。責任ある倫理的な人工知能とテクノロジーの追求は極めて重要であり、単一の企業や組織の枠を超えるものです。
私たちは、行動を通じて善意と信頼を築き、これらの強力な新技術がもたらす恩恵を実現できるようにすべきです。
