もし人工知能が世界を運営するとしたら、それほど悪いことではないかもしれません。人間がしばしば失敗してしまうまさにその種類の判断を、客観的に下せるからです。人間がしばしば失敗してしまう。しかし、AIに主導権を委ねるのであれば、それは公正でなければなりません。ところが、これまでのところ、そうなっていません。人間が注釈を付けたり選別したりしたデータセットで学習したAIは、それらの人々が持つ人種差別、性差別、その他の偏狭な偏見を、同じように学習してしまう傾向があります。
プログラマーたちは徐々に、こうした偏見を是正しつつあるようです。しかし、たとえ自分たちの偏見をコードから排除することに成功したとしても、AIは今や、それを自ら独自に生み出す能力を備えつつあるようです。
水曜日に『Scientific Reports』に掲載された新たな研究は、AIエージェントのネットワークが、自分に似た他のエージェントを優先する内集団選好だけでなく、自分と異なるものに対する能動的な偏見も自律的に発達させたことを示しています。実際、研究者たちは、こうした偏見を生み出すのにほとんど認知能力を必要としないと結論づけており、それはつまり、この偏見がさまざまなコードに至る所で現れうることを意味します。
AIエージェントは、他のエージェントに仮想のお金を寄付できるよう設定されており、その目的は、見返りとして可能な限り多くを得ることでした。要するに、どれだけ分け与えるか、そしてどのエージェントに分け与えるかを選ばなければなりませんでした。実験を行った研究者たちは、2つの傾向が現れたことを確認しました。AIエージェントは、類似した特性(任意の数値で示される)のラベルが付けられた他のエージェントに寄付する傾向が強く、また、異なるものに対しては能動的に偏見を示しました。AIエージェントは、内集団への寄付がより多くの見返りをもたらし、他のエージェントへの寄付は自らの損失に直結する、ということを学習したようでした。
これは、現実世界で見られるものよりも抽象的な形の偏見です。現実世界では、アルゴリズムが黒人を特に標的にし、抑圧するために使われています。AIエージェントは、一部の人々がそうであるように、特定の少数派集団に対して特定の軽蔑を抱くようになったわけではありません。むしろ、それは曖昧な「他者」、つまり自分たちと異なるすべてのものに対する偏見でした。そして、確かに、これはこの特定のシミュレーションに限定された形の偏見です。
しかし、この研究は現実世界への応用に大きな示唆を持っています。何の抑制もなければ、このようなアルゴリズムは、制度化された人種差別や性差別を一層助長しかねず、さらには、ごく極端なシナリオでは、人間に対するあらゆる偏見にまで発展する可能性すらあります。それも、こうした事態を防ぐための最善の努力にもかかわらず、です。
論文によれば、これを是正する方法はあります。例えば研究者たちは、AIエージェントに、彼らが「グローバル学習」と呼ぶもの、すなわち自分たちの泡の外にいる異なるAIエージェントと交流させることで、偏見の水準を下げられることを見いだしました。また、AIエージェントの集団がより多くの特性を持つようになると、単純に組み込まれた多様性が増えたため、偏見の水準も低下しました。研究者たちは、これを現実世界で偏見を持つ人々を他の視点にさらすことになぞらえています。
論文からの引用:
これらの要因は、社会の多元性を抽象的に反映しており、社会政策、政府、歴史的な対立、文化、宗教、メディアなど、個人を超えた問題の影響を受けています。
より広く言えば、これは、AIを自らの判断に任せきりにし、すべてがうまくいくと想定してはならないことを意味します。彼女の近刊『Hello World: Being Human in the Age of Algorithms(ハロー・ワールド:アルゴリズム時代の人間であること)』は、その抜粋がウォール・ストリート・ジャーナルに掲載されましたが、その中で数学者のハンナ・フライは、私たちの生活を形作るアルゴリズムに対して、より批判的で、より懐疑的であるよう訴えています。そして、この研究が示すように、それは決して悪い助言ではありません。
AIシステムが客観的で公平な機械であると信じたい気持ちがどれほど強くても、システムには常に不具合が生じうることを受け入れる必要があります。当面は、これらのアルゴリズムに目を配り、自分自身にも注意を払う必要があるということです。
