バイアスは人間に内在する特性であり、私たちが創り出すあらゆるものに、特にテクノロジーに関しては、反映され埋め込まれる可能性があります。
オープンソース・データサイエンスは、人工知能（AI）の開発におけるバイアスの問題への対処に役立つ可能性があります。
データサイエンスに対してオープンかつ協働的なアプローチをとることは、AIのバイアスを減らすことによって、より公正で平等な世界への道を開くことができます。
言語学者であり哲学者でもあるジョージ・レイコフは、著書『象について考えてはいけない』の中で次のように主張しています。Don’t Think of an Elephant「フレームとは、私たちが世界をどのように見るかを形づくる心的構造である。その結果、フレームは私たちが追求する目標、立てる計画、行動の仕方、そして行動の結果が良いか悪いかの基準を形づくる。」
この観点から、バイアスは人間にとって内在的なフレームとして作用しうるものであり、現実の生活の中に存在しています。以下にいくつかの例を挙げます。
最近の研究では、人の血液中の酸素量を推定するパルスオキシメトリーセンサーのデータセットにおけるバイアスが明らかになりました。黒人患者では、センサーが血中酸素濃度の低下を正確に測定・検出できず、正常値を下回る酸素レベルである低酸素血症のリスクが高まる可能性がありました。実際、この研究では、黒人患者は白人患者に比べて、パルスオキシメトリーでは検出されなかった潜在性低酸素血症の発生頻度がほぼ3倍であることが示されました。
世界銀行が77のトルコの銀行を対象に実施した新たなローン申請の実験では、ローン担当者の35％が女性の申請者に対して偏見を持っており、女性が受け取るローン額は、男性と比べて平均で14,000ドル少なくなっていました。
「生まれ（先天性）か育ち（後天性）か」という議論は古くからの論争であり、特に人間のバイアスに関してはそうです。答えは単純ではありませんが、一つだけ確かなことがあります。それは、私たちは皆バイアスを持っており、私たちが創り出すほぼすべてのものに、まさにそのバイアスを埋め込んでいるということです。
バイアスはテクノロジーにも見られ、具体的には、人工知能（AI）。次にDALL-E miniが「ヨーロッパでスタートアップを立ち上げるCEOの絵画」を描くよう依頼された際に生成するものを見て、女性が何人いるか数えてみてください。
レイコフは、さらに次のように続けています。「フレームを変えることは、これらすべてを変えることです。フレームの再構築は社会の変革なのです。」
このフレーム・バイアスのモデルに従えば、AIにおけるバイアスへの対処は、新たで倫理的かつ責任ある技術へのアプローチを通じて社会を変革するうえで極めて重要です。そのためには、これまでも常に存在していたにもかかわらず無視されてきた、「部屋の中の大きな象（ゾウ）」を指摘し、それに向き合う必要があります。
人工知能とバイアス
AIにおけるバイアスとは、前述の血中酸素濃度の例で示したように、機械が一つの集団に対して、別の集団と比べて一貫して異なる出力を示す状態のことです。
一般的に、こうしたバイアスの出力は、人種、性別、生物学的性、国籍、年齢といった古典的な社会的バイアスに沿ったものになります。
AIアルゴリズムにおけるバイアスは、代表性が不十分な、または不完全な学習データや、歴史的な不平等を反映した誤った情報への依存から生じることがあります。放置すれば、バイアスのかかったアルゴリズムは、プログラマーに差別の意図がなくても、特定の集団に対して集合的かつ不均衡な影響を及ぼす判断につながる可能性があります。
ブルッキングス研究所のために執筆した、ニコル・ターナー・リー、ポール・レズニック、ジニー・バートン
顔認識および医療における人種的バイアスは、代表的な2つの例です。これらのシステムを学習させるために使われるデータには、肌の色が濃い人々の例が不足しているため、有色人種の認識が不十分になります。不良で不適切なデータを入力すれば、不良で不適切なデータが出力されます。
AIのバイアスに関する人的要因
AIについて語るとき、私たちは人について語っているのです。AIアルゴリズムを設計するのは人間であり、私たちが日々利用するあらゆるAIアプリケーションの主な受益者も依然として人間です。
このことから、バイアスのあるAIを単なる技術上の問題としてではなく、人間の問題として捉え直し、新たな視点を取り入れるべきであることがわかります。
話がアルゴリズムのバイアスに及ぶと、対処すべき主要な問題は2つあります：データと成功の定義です。利用可能なデータは完全か。すべての人々を代表しているか。そうでなければ、アルゴリズムによる予測は必然的にバイアスを持つことになります。
しかし実際には、真の問題は、AIシステムの設計に責任を負う私たち人間が、本来的に無意識のうちにバイアスを持っていることです。そして、人間のバイアスを取り除くことは、AIシステムのバイアスを取り除くことよりも困難です。
オープン性と協働が答えである
この問題に対する答えは、成熟しつつあり、データサイエンスの分野を変えつつあるオープンソース・データサイエンス（OSDS）かもしれません。オープンソース・ソフトウェアが、コードを開発者コミュニティに公開することでソフトウェアの世界に革命をもたらしたように、OSDSはモデルとその学習に用いたデータを公開することで、データサイエンスの分野でも同様のことを成し遂げることができます。
Hugging Faceは、例えば、オープン性と協働を基盤として築かれた企業の好例です。同社はチャットボットというその技術の背後にあるモデルをオープンソース化した後、機械学習を民主化するプラットフォームになりました。
しかし、OSDSを協働、人材の誘致、オープン性とは別に、バイアスの緩和にも活用できるとしたらどうでしょうか。
オープンソース・データサイエンスはAIのバイアスをどのように減らすことができるか
一例として、顔認識を2つの異なる用途で利用する2社を考えてみましょう。一方は疾病診断に、もう一方はファッションの推奨に利用しています。
これら2社は間違いなく競合にはなりません。しかし現在、両社とも、システムの重要な部分である顔認識を、おそらく並行して開発しています。これは作業の重複を意味し、データサイエンティストの時間と費用の無駄になります。
OSDSの世界では、両社がオープンな顔検出プロジェクトに取り組み、コードとデータを提供することで、例外的なケースへの対応を助け、より堅牢なソリューションを構築できるでしょう。そうすることで、現状と比べて、この作業に割り当てるデータサイエンティストの数を減らし、より困難で重要な課題に集中させることができます。
学習、貢献、そしてポートフォリオを充実させるためにスキルを示したいデータサイエンティストは、バグや非効率性を特定し、さまざまなユースケースに対して異なる指標を優先する代替モデルを作成する作業に積極的に参加するでしょう。そうした動きは、Ethical AI Communityプロジェクトは、Responseable.aiを支援するために作られたほか、他の取り組みであるOpen Futureなどにも見られます。
より倫理的に推進されたAIに向けた鍵となる協働
AI分野で新たに浮上している課題は、バイアスと公平性に関わる問題を解決することへの重要性と関心が高まっていることです。OSDSは、この憂慮すべき現象を是正するための解決策の大きな部分を担うことができます。
例えば、利用者はデータセットにアクセスし、過小代表の少数派に関するデータの欠落など、データのバグを見つけることができます。その後、協力者は適切なデータポイントを提出することでデータセットの「修正」を助けたり、さらにはデータの提供を募るクラウドソーシングキャンペーンを始めて、データセットに存在する既存のバイアスを取り除いたりできます。
要約すると、OSDSの利点は次のとおりです。
高品質なリソースを幅広いコミュニティに提供すること
信頼性の高いオープンソース・データサイエンス・プロジェクトを作成することで、再現性の問題を解決し、より良い結果、より公正なモデル、より信頼性の高い性能を実現すること
プロジェクト横断的にデータサイエンティストをより効率的に活用すること
AIの透明性、多様性、包摂性に対して プラスの影響をもたらすことを確実にすること
キュビスムが、同じ画面の中で対象を異なる視点から同時に描く革命的な表現手法であったように、OSDSは同じ現実に対する異なる見方、角度、視点を一つにまとめ、同時により代表的で包摂的なモデルを実現します。
オープン性と協働を通じて、オープンソース・データサイエンスは、より倫理的に推進されたAIへの唯一の答えからは程遠いものの、バイアスを減らし、世界により多くの公正さと平等性をもたらす助けとなり得ます。
