誇大宣伝の中で公正なAIを実現するには、基本に立ち返る必要があります。
基本的な公正性は、膨大なAI開発ライフサイクルのあらゆる段階に適用されます。
データを収集する人々の公正な扱いが見過ごされています。
最近、AIアプリケーションを開発するリーダーは「公正なAI」を構築する必要があるという議論が続いています。これは偏りがなく公平で、理想的にはそれに関わるすべての人々の生活の質を向上させるものであるべきです。
しかし、倫理的AIに関する考え方の大半は、モデル、説明可能性、技術チーム、データガバナンスに焦点が当てられてきました。
しかし、AI開発ライフサイクルにおける基本的な公正性を考慮してみてはどうでしょうか。このライフサイクルは膨大です。データ収集およびアノテーションの委託業者、データを管理する企業や個人、AIモデルを構築する技術専門家、AIアプリケーションを構築する市場投入の専門家、そしてAI搭載の製品やサービスを利用する企業や個人が含まれます。
このようなアプローチこそが、テクノロジーが世界をより良い場所にし続けることを確実にする唯一の方法です。
公正なAIとは何か？
AI製品が現実世界に展開される際には、期待どおりに機能し、あらゆる状況下で意図されたすべての受益者に公平な結果をもたらし、かつ、身体的、精神的、感情的に誰にも害を与えないことが求められます。これは高いハードルです。そしてそれは、偏りがなく包括的なデータセットを構築することから始まります。
当然のことに思えるかもしれませんが、開発チームにとって、偏りのないデータを後回しにし、代わりにできるだけ早く成果を出すことに注力するのは容易です。しかし、そうすると、開発者が維持を忘れがちな長期的な責任が生じます。
AIが不公平になるのはどのような場合か？
不公平さは、次の形で現れます。AIにおける偏りは、複数の形で現れる可能性があります。
行動データや人口統計データを使用して再犯のリスクを判断する犯罪リスク評価アルゴリズムを考えてみてください。
コンピュータベースのアノテーションシステムだけでは、現実の結果に影響しうる複雑な状況の解釈や、微妙な誤りの発見はできません。
Mark Brayan
最近の一つの研究では、そのようなアルゴリズムの一つに人種的な偏りがあることが判明しました。例えば、18歳の黒人女性が80ドルの自転車を盗んだ軽窃盗罪で起訴されました。少年時代の軽犯罪の前科が一件あるだけであったにもかかわらず、彼女は、類似の罪で起訴され、複数の前科がある41歳の白人男性よりも再犯リスクが高いと評価されました。
時が経ち、その女性は他に犯罪を犯していませんが、その男性は現在、数千ドル相当の電子機器を盗んだ罪で服役中です。明らかに、このアルゴリズムは質の悪いデータに基づいていました。
不公平なAIは、日常的なテクノロジーの中にも存在します。ある企業が、複数の国で音声認識を搭載した自動車を販売しているものの、各言語について母語話者の男性のみを使用して製品を訓練している場合、そのシステムは女性や異なるアクセントを話す人々を理解するのに苦労する可能性があります。
これにより、ドライバーが誤った目的地へ案内されることにつながりかねません。さらに深刻なことに、運転中の注意散漫を引き起こし、事故につながる可能性もあります。一部のユーザーにとって不公平であることに加え、偏ったデータは、ソリューション提供者に品質の劣る製品を抱え込ませ、その評判を損なう可能性があります。
人間が優位に立つ領域
包括的で偏りのないデータセットを構築するには、データの多様性と幅広さが求められます。これにより、自動車の音声認識システムが対象市場で遭遇しうるすべてのアクセント、声の調子、言語など、現実で遭遇する可能性の高いあらゆる状況で製品が訓練されることが保証されます。
これを実現するには、AIモデルの訓練データを収集、アノテーション、検証する際に、顧客層全体を代表する人々と協働する必要があります。
また、モデル構築自体においても、多様なチームと協働することを意味します。コンピュータベースのアノテーションシステムだけでは、現実の結果に影響しうる複雑な状況の解釈や、微妙な誤りの発見はできません。
例えば、自動運転車のアプリケーションのために画像や動画をアノテーションする人間は、ある姿勢で二台の車の間を歩いている人が、その人より先に交通に現れるベビーカーを押している可能性があると解釈できるかもしれません。
コンピュータベースの最高のアノテーションシステムであっても、この解釈には苦労するでしょう。同様に、製品レビューを読む人間は、機械よりもはるかに皮肉を見抜きやすいものです。
データの背後にいる人々
公正なAIにコミットするリーダーは、グローバルなAI製品やサービスを構築する際に、AI開発ライフサイクルにおけるもう一つの重要な要素を含めなければなりません。それはデータを収集しラベル付けする何百万もの人々です。これらの人々と公正かつ倫理的に関わることは極めて重要であり、すべての組織の責任憲章の一部とされるべきです。
公正な扱いとは、公正な報酬、柔軟な勤務時間の提供、あらゆる背景を持つ人々の受け入れ、プライバシーと機密性の尊重、そして人々が自らの意見を聞いてもらえ、尊重されていると感じられる形での協働にコミットすることを意味します。
リーダーはまた、グローバル経済で使用される最も影響力の大きいテクノロジーに携わることへの誇りを醸成するような形で、委託業者を鼓舞すべきです。
明白なことを超えて、公正なAIが重要なのはなぜでしょうか？
端的に言えば、それは社会にとって良いことであり、ビジネスにとっても良いことです。例えば、製品チームは、市場と世界に好影響を与える製品を開発しているとき、意欲が高まります。では、公正な製品はほかに何をもたらすのでしょうか？
対象とする顧客層全体に対応します：代表的なデータに基づく製品は、偏りなくすべてのユーザーに機能するため、売上が伸び、不満が減り、返品が減少します。
より安全です：包括的で偏りのない訓練データは、より安全で高品質な製品につながり、故障の可能性を低減します。
顧客の信頼を築きます：優れた製品と良好な評判は、顧客ロイヤルティの向上の鍵となります。
ブランドを守ります：期待どおりに機能する製品は、深刻で長期的なブランドへの損害リスクを低減することが多いです。
あるMITスローン・スクールの研究によると、現在AIから「大きな」財務的利益を得ていると報告している企業は、わずか約10社に1社です。
2021年、取締役会がAIの潜在能力と現実のギャップを埋めることに注力するにつれ、公正なAIの原則の採用をますます優先するようになるでしょう。それにより、プロジェクトが設計どおりに機能し、期待される利益をもたらし、より良い社会に貢献することが確実になると理解しているからです。
AIに依存するアプリケーションは、公共部門を含むあらゆる業界にも浸透しつつあります。したがって、AI開発者には、自社の製品がすべての人に機能する、偏りのない包括的なデータセットに基づいて構築されるようにする一定の責任があります。
ビジネスおよびテクノロジーのリーダーは、社会全体を支援しながら自社のビジネスを改善するための中核的な原則として、公正なAIを受け入れるべきです。
