人工知能（AI）の応用範囲と影響力が拡大するにつれ、AI開発において倫理的なアプローチは不可欠です。
企業は、包摂的で、責任があり、倫理的なAIを構築するために必要な具体的な行動に苦慮することがあります。
データ、AIモデル、導入後の段階に関するこれらの行動は、より包摂的なAIの創出につながります。
責任ある人工知能（AI）をめぐる議論が活発化しています。その利用がもたらす倫理的影響が、私たちの日常生活や社会においてますます実感されるようになっているためです。AIは、住宅ローン、医療、仮釈放などの人生を左右する決定に影響を及ぼしており、AI開発における倫理的なアプローチは、もはや望ましいものではなく、必須の要件なのです。
理論上、企業は顧客への奉仕とブランドの評判の維持の両面から、包摂的で、責任があり、倫理的なAIの開発を望んでいます。しかし実際には、その具体的な実践に苦慮することが多くなっています。
包摂的なAIを創出するには、開発プロセス全体を通じて考え方を根本から転換する必要があります。それは、構築プロセスにおけるあらゆる重要な決定の重みを慎重に検討することを伴います。少なくとも、データ、AIモデル（特定のタスクの予測に必要な、ルール、数値、およびその他のアルゴリズム固有のデータ構造を表すプログラム）などに関する戦略の全面的な見直しが必要となるでしょう。
包摂性のための行動計画
包摂的で社会にとって純益をもたらすAIを確保する責任は、AIソリューションを構築する人々にあります。これを実現するために、AIのライフサイクルにおいて取るべき不可欠なステップがいくつかあります。
1. データ：データの段階では、組織は機械学習モデルのためにデータを収集、整理、注釈付け、検証します。AIのライフサイクルのこの段階では、データがモデルの基盤となるため、包摂的なアプローチを取り入れる機会が最大限にあります。考慮すべき要素は以下の2つです。
データの多様性：データの多様性とは、データセットがどれだけ広範囲をカバーしているかを指します。それは、あまり一般的でないものも含め、想定されるすべてのユースケースを網羅しているでしょうか。すべてのエンドユーザーと、そのユーザーがモデルとどのように相互作用する可能性があるかを表しているでしょうか。カバレッジの不足は、企業が包摂的なAIの構築に失敗する主な理由の一つです。AIのライフサイクルにおいて、最も慎重な検討を要するのはこのステップです。
データガバナンス：データガバナンスは、包摂的な視点でアプローチする必要があります。データ管理に関するガイドラインとポリシーを策定し、次の点を確実にしてください。すなわち、最高品質かつ最大限のカバレッジを持つ学習データを準備すること、そして自社の倫理的目標を支えることです。
代表性のあるデータがなければ、包摂的な製品を生み出すことは望めません。プロジェクトの時間の大部分を、データが正しいことを確認することに費やしてください。あるいは、モデルの対象となる集団をデータが代表していることを保証できる外部データプロバイダーと提携してください。
2. モデル：データ要素ほど重要ではないかもしれませんが、モデルの構築中には、包摂的な実践を取り入れるための重要な機会が存在します。
モデルガバナンス：モデル開発のためのガバナンスの枠組みとは、モデルが倫理的に使用され、適切な指標が優先されることを確実にするポリシーを指します。モデルを85％の確率で正確になるように最適化した場合、残りの15％はどうなるのでしょうか。エンドユーザーへの悪影響が倫理的な失敗を表すほど重大であれば、優先事項を再考する必要があります。ガバナンス計画では、どのプロジェクトを導入すべきか（そして、どれを導入すべきでないか）も示されます。
大規模な多様なエンドユーザーのセットでテストする：エンドユーザーがどのように技術と相互作用するかを、常に予測できるわけではありません。予期せぬ不快な事態の可能性に対処するため、テストプロセスの早い段階で、大規模で代表性のあるエンドユーザーのセットを組み込んでください。モデルの性能におけるギャップや新たなユースケースが明らかになるかもしれません。それらは、モデルがすでに本番環境にある段階では発見すると問題となっていたであろうものです。
適切な目標（例えば、バイアスを測定するKPIなど）を戦略的に設定し、達成することは、責任ある最終製品の構築に大きく貢献するでしょう。
3. 導入後：モデルを導入した後は作業がほぼ完了したと感じるチームもありますが、実際は逆であり、これはモデルのライフサイクルの始まりにすぎません。モデルが同じ性能水準を維持するには、大幅な保守と再学習が必要であり、これを後回しにしてはなりません。性能の低下を放置すると、特定のユースケースにおいては深刻な倫理的影響をもたらす可能性があります。導入後のインフラストラクチャの一部として、以下のベストプラクティスを取り入れてください。
継続的な監視と再学習：導入後にモデルを監視するチームを指名してください。定期的に次の質問を投げかけてください。モデルは意図したとおりに機能しているか。各ユーザー集団に対して同等の性能を発揮しているか。性能を維持しているか。これらの質問のいずれかに対する答えが「いいえ」である場合、新しいデータでモデルを再学習させるべき時です。
オープンなフィードバックループを構築する：ユーザーが技術をどのように体験しているかを、常に把握し続けることが重要です。フィードバックを収集するプロトコルを構築しない限り、問題について完全な、あるいは即時の洞察が得られるとは限りません。ユーザーのフィードバックを捕捉するインフラストラクチャを構築し、最も重要なこととして、妥当であると判明したフィードバックには即座に対応してください。
上記は正確な設計図ではありませんが、包摂的なAIを理論的な議論から組織のための行動計画へと移行させるための出発点を提供するものです。包摂的な視点でAIを創出するならば、開発ライフサイクル全体を通じて、多くの追加的なステップが見つかるでしょう。それは使命に不可欠な取り組みです。AIが適切に機能するためには、すべての人にとって適切に機能する必要があるのです。
