私たちは、世界で最も差し迫った問題の解決に役立つものとして、人工知能（AI）への依存を強めています。医療から経済モデリング、危機の予測と対応に至るまで、AIは急速に一般的になりつつあり、場合によっては私たちの業務運営に不可欠なものとなっています。
AIがもたらす洞察は非常に貴重である一方、多くの実務家が思わせるように、AIが完璧な答えを提供してくれる欠陥のないシステムではないことも認識しなければなりません。私たちのAIシステムは構築されたアルゴリズムの産物であり、意図せずとも、私たちが解決しようとしている世界的な課題そのものを存続させてしまう多くの偏りを引き継いでいます。その結果、AIと機械学習は、客観的なデータ分析を純粋に中立的に行うプロセスではないのです。
これらの技術が前進し、偏りに立ち向かい、重大な世界的問題への取り組みに貢献するためには、AI対応ツールの開発に対する私たちのアプローチを見直し、データに私たちの理解のモデルを押し付けるシステムから脱却する必要があります。代わりに、より多くの視点と多様な考え方を取り入れられる、反復的で多様なアプローチが必要です。世界に分散した知能ネットワークから開発されたモデルは、深刻な世界的課題に取り組むための、より独自性と公平性のある前進の道筋を提供するかもしれません。
AIにおける偏りの解体
AIが企業活動にますます組み込まれるにつれ、システムに内在する偏りが引き起こす問題はより明白になっています。私たちは、選択的なデータセットを利用することの影響と、AIアルゴリズムが開発者の無意識の偏見を取り込み、それを増幅させうる仕組みの両方を理解し始めています。
例えば、Amazonの中止されたAI採用・人材募集システムを挙げてみましょう。このシステムは、採用データと従業員の成功データを分析し、最も生産性の高い採用者の特徴に最も合致する応募者を抽出することで、有望な求職者の特定を支援することを目的としていました。AIは、Amazonの人事チームが考慮していなかった、最優秀社員の特定の資質や特性をデータから見出すことさえできるかもしれないと期待されていました。
実際に起きたのは、機械学習アルゴリズムが10年分の応募書類を処理し、Amazonが是正しようとしていた偏りをまさに永続させてしまったということでした。データの傾向が男性候補者への過去の選好を示していたため、このシステムが女性より男性の応募者を高く評価していたことがわかります。このAmazonの事例は、過去の偏りを反映した限定的なデータセットへの依存の例であり、その結果、学習データに内在する偏りを取り込んだ機械学習モデルが生まれたのです。
同様の問題は、AIの他の応用分野にも現れており、ローン審査から刑事量刑に至るまでのあらゆる判断に影響を及ぼしています。データサイエンスの開発プロセスにおける、より大きな体系的問題に取り組まなければ、AIはこれらの問題を解決する有用なツールとは見なされないでしょう。
私たちのアプローチの欠陥は、商業用途向けにAIシステムを開発する方法にあります。私たちは、データ内のパターンを検出するために使われるアルゴリズムを作成しており、多くの場合トップダウン型のアプローチを採用しています。最近のWIREDのカバーストーリーが指摘したように、私たちのAIシステムは、次第にディープラーニングに依存するようになっています。ディープラーニングは、過去10年間で発展してきた機械学習手法の一種です。パターン認識に適用されたディープラーニングの中心的な課題は、特定の種類の問題に対しては、有用性が頭打ちになり始めていることです。こうしたモデルは完全にデータに依存しており、その出力の一部として根拠となる論理が示されないため、AIは特定の問題を直感的に解決したり、どのようにして結論に至ったかを説明したりすることができません。さらに、そのデータが体系的な過去の偏りによって欠陥を抱えている場合、それらの偏りは大規模に再生産されてしまいます。ある言い回しを借りれば、「偏りを入れれば、偏りが出てくる」のです。
開発者がこうした偏りに一層気づくようになるにつれ、彼らは人為的な対策によって状況に対処しようとしています。こうした取り組みには、外れ値とみなされるものをよりよく考慮できる、より多様なデータセットの活用から、業界全体の多様性の拡大に至るまであらゆるものが含まれます。Googleのユーザーエクスペリエンス研究者であるVyacheslav Polonski氏は、別のブログで指摘しており、現在の取り組みは、代表性、管理責任、保護、真正性という原則への対応に重点が置かれています。
とはいえ、これらの取り組みは、システムそのものを修正することを目指すべきところを、システムに埋め込まれた問題を修正しようとしているに過ぎません。AIへの依存という道を進み続けるにあたり、現在のAI開発モデルが正しい方向に私たちを導いているのか、あるいは、より生産的で偏りが生じにくい別のモデルが実際に存在するのかを、立ち止まって検討すべきです。
AIを再考する
私が主張したいのは、AIシステムの問題は単にデータの限界や開発者の死角によるものではなく、むしろこれらのシステムの構築方法に対する私たちの全体的なアプローチに起因しているということです。私たちはAI開発をトップダウンで進めてきましたが、それは主に先進国や先進国文化の視点に左右されてきました。したがって、これらのシステムの出力に見られる偏りが、これらの視点の無意識の偏見を反映していることは驚くに値しません。
データを多様化することは、これらの偏りを緩和するための確かな一歩です。より世界的な入力が可能になり、非常に異なる優先事項や洞察を持ち得るからです。しかし、内在的な偏りを持つモデルに多様なデータを投入する限り、多様なデータをどれだけ増やしても、すべての問題は解決されません。
必要とされているのは、世界的に多様な視点を取り入れられるシステム、新しいデータに適応し、新たな思考モデルを取り込み、文化的多様性の恩恵を受けられる分散型知能ネットワークです。技術開発における重要な価値尺度を、労働の裁定取引から「アイデアの裁定取引」へと移行させる必要があります。グローバルな調査・予測企業であるWorldQuant Predictiveの創設者Igor Tulchinsky氏は、「才能は平等に分布しているが、機会はそうではない」と考えています。同様に、優れた洞察やアイデアは世界中に存在しますが、現在のモデル構築のアプローチでそれらが可視化されたり、代表されたりすることはめったにありません。
データにモデルを押し付けるトップダウン型アプローチではなく、データの文脈を超えている可能性があるトップダウン型アプローチではなく、AIを反復的で進化するシステムとして捉えるべきです。現在のモデルを、データに押し付けるのではなく、データから構築されるものへと転換すれば、証拠に基づき、アイデアに富んだ、拡張可能なAIシステムを構築するアプローチを開発できます。その結果は、現在の思考様式を超えた洞察と理解をもたらすかもしれません。
このようなボトムアップ型アプローチのもう一つの利点は、システムがはるかに柔軟かつ反応的になりうることです。データの変化や新たな視点の取り込みに応じて適応できます。システムを段階的な洞察の足場として捉えてください。そうすれば、いずれかの部分が不十分であることが判明しても、システム全体が機能不全に陥ることはありません。また、世界中からのより多様な入力を考慮することもでき、AIが応答できる累積的なモデルへと至る反復的なシグナルを開発できます。
今日私たちが直面している世界的な問題は、前例のないものです。それらには、新たな種類のデータ、情報を理解する新たな方法、新たな思考様式の認識が求められます。AIは、人類がこうした現在と未来の課題に立ち向かうための最善の潜在的ツールの一つですが、過去の過ちを繰り返さない場合に限ります。
