人工知能の開発に関して、トランプ大統領は「自由市場に委ねるアプローチ」を望むかもしれない。しかし、これに異を唱える専門家も少なくない。差別的なアルゴリズムから人々を守る指針が必要だ。
ヒューマン・ライツ・ウォッチ、アムネスティ・インターナショナル、ウィキメディア財団、アクセス・ナウなどの人権団体は本日、政府やテクノロジー企業に対し、人権を守るための指導原則を採用するよう呼びかけた。
本日開催されたRightsCon Torontoシンポジウムの一環として、これらの団体は機械学習に関するトロント宣言を共同で起草した。全文はAccess Nowのウェブサイト
宣言は、エンジニアに対し、アルゴリズムを開発し、見直すよう求めている。その明確な目的は、透明性と平等を促進するとともに、アルゴリズムが助長する人種差別や差別の解消に取り組むことだ。
今ではよく知られているように、アルゴリズムは有用である一方、私たちが与える情報をもとに、私たちの無意識の偏見を学習する。そして、アルゴリズムに警察が誰を捜査すべきか、あるいは誰が融資の対象となるべきかを決めさせると、アルゴリズムはそれに応じて世界を形作っていく。
トロント宣言の特徴は、実効性のある解決策を求めている点にある。この文書は国際人権法を踏まえ、人工知能のアルゴリズムによって差別を受けた人々が、救済を求める手段を持つべきだと論じている。
宣言には次のように記されている。
「既存の構造的差別のパターンは、こうした技術に特有の状況において再現され、悪化するおそれがある。たとえば、機械学習システムの目標が、成功を示す指標を自己成就的に生み出し、不平等のパターンを強める場合や、代表性のない、あるいは『偏った』データセットの利用から問題が生じる場合がある。
官民を問わず、すべての関係者は、機械学習技術の設計、開発、応用に伴う差別のリスクを防止し、軽減しなければならない。また、こうしたシステムの導入前からライフサイクル全体を通じて、実効的な救済措置を確保しなければならない。」
トロント宣言は最終的に、制度的な差別のしわ寄せを受けることの多い、社会的に周縁化された人々を守るよう訴えている。テクノロジー開発の世界は、その大半が裕福な白人男性によって占められており、それを変えたくないと考える人も間違いなくいる。たとえ、それを公言しないとしても。
議論からしばしば排除される人々の権利とニーズに目を向けることは極めて重要だ。トロント宣言への署名に法的拘束力はないものの、スマートテクノロジーの未来を平等と包摂のあるものにするための重要な第一歩である。
