企業が人工知能を (ますます) 活用する中、信頼性に関する懸念に対処しなければなりません。
AIの公平性を確保するために企業が取り入れられる10の具体的な施策は、次のとおりです。
これには、AI公平性憲章の策定や、研修とテストの実施が含まれます。
データ駆動型技術と人工知能（AI）は、次の新型コロナウイルス変異株の出現予測から、最も効率的な経路での移動支援まで、今日の世界を動かしています。多くの分野で、こうした体験を支えるアルゴリズムが公平に開発されていると、一般の人々は高い信頼を寄せています。
しかし、この信頼は容易に損なわれかねません。例えば、採用ソフトウェアを考えてみてください。学習データが代表性を欠いているため、「women（女性）」という語を含む応募書類を不利に扱うものや、現実世界の信用力の証拠を捉えきれず、結果として特定の集団が低い与信限度額を設定されたり、融資を拒否されたりする信用評価システムなどです。
現実には、技術の進歩がAIの公平性に関する教育や研修を上回るペースで進んでいます。こうしたデータ駆動型の体験を訓練、開発、導入、販売する人々は、自らの仕事が二次的・三次的な影響にもたらすものに気づいていないことが多いのが実情です。
世界経済フォーラムの人類のための人工知能に関するグローバル未来評議会の一環として、AIの実務家、研究者、企業アドバイザーで構成される集団である私たちは、AIの公平性を確保するために企業が取り入れられる10の具体的な施策を提案します。
1. AI教育の責任を明確にする。
最高AI倫理責任者（CAIO）を任命してください。CAIOは、データサイエンス、規制、広報、コミュニケーション、人事の代表者を含む部門横断的な倫理委員会とともに、AI教育活動の設計と実施に責任を負うべきです。また、CAIOは、公平性に関する懸念がある場合に職員が相談できる「オンブズマン」の役割を担うとともに、非技術系職員向けの広報担当者としての役割も果たすべきです。理想的には、この役職は透明性と実行を確保するため、CEOに直接報告する体制とすることが望まれます。
2. 自社における公平性を定義する。
AI公平性憲章のひな形を作成し、AIを積極的に活用しているすべての部門に対して、自部門の状況に合わせてそれを完成させるよう求めてください。これは、事業部門の管理職、ならびに製品およびサービスの責任者にとって特に重要です。
3. サプライチェーン全体でAIの公平性を確保する。
調達する製品やサービスにAIが組み込まれているサプライヤー（例えば、候補者の選考にAIを使用する可能性のある人材紹介会社）に対しても、AI公平性憲章を作成し、AIの公平性に関する自社の方針を遵守するよう求めてください。これは、調達部門とサプライヤーにとって特に重要です。
4. 研修と「実践による学習」を通じて、職員や関係者を教育する。
すべての従業員に対し、AIの公平性の原則に関する必須研修と認定を義務付けてください。これは、従業員が企業行動規範に同意することが求められているのと同様です。技術系職員には、公平性の原則に反しないモデルを構築する方法に関する研修を提供してください。すべての研修では、AI公平性憲章から得られた知見を活用し、自社が直面している課題に直接対処する必要があります。研修内容は、倫理委員会によって定期的に見直されるようにしてください。
5. 人事部門のAI公平性人材計画を策定する。
人事部門のAI公平性計画には、データ駆動型技術およびAIに取り組むチームの多様性を評価するための、人事部門による年次レビューを含めるべきです。また、製品オーナー、データサイエンティスト、データエンジニアなど、AI関連の主要な製品開発職について現在募集されている能力やスキルを明示的に見直し、向上させて、公平性への意識が職務記述書に含まれるようにしてください。
6. 技術を公開する前に、AIの公平性をテストする。
AIアルゴリズムの本番稼働を認める前に、部門やサプライヤーに公平性の結果テストを実施させ、その結果を社内で公開するよう求めてください。データの偏りによって不当な扱いを受ける可能性のある集団を特定したら、その集団のユーザーをシミュレートし、結果を監視してください。これは、製品チームが公開前に製品やサービスを反復的に改善するために活用できます。次のようなオープンソースツールは、公平性の結果テストの分析を支援できます。Microsoft Fairlearn、公平性の結果テストの分析の提供に役立ちます。
7. AIの公平性に関する自社の取り組みを周知する。
新規または更新された製品やサービスの公平性の結果テストを確認するため、顧客対応部門および一般向け部門の職員を対象に、公平性の結果に関する学習会を設けてください。これは、マーケティング部門、対外コミュニケーション部門、カスタマーサービスチームにとって特に重要です。
8. 取締役会の定例議題にAIの公平性プロセスを含める。
この議論には、進捗状況と遵守状況の報告、最高AI倫理責任者および倫理委員会から提起されたテーマ、ならびに優先度の高い公平性の結果テストの結果を含めるべきです。
9. 教育の効果が定着するようにする。
AIの公平性に関する活動への参加状況と完了状況を定期的に把握・報告するとともに、公平性の管理がもたらす実際のビジネス価値という観点から、その効果を示してください。これらの最新情報を部門長や管理職に提供し、職員に伝えてもらうことで、AIプラットフォームやソフトウェアをより公平にすることで組織がより効果的かつ生産的になることを改めて周知してください。
10. すべてを文書化する。
AIの公平性に関する自社の取り組みを文書化し、職員およびサプライヤーの研修、ならびに顧客や投資家を含む注目度の高いイベントで周知してください。
