第一印象
初対面の人を見ると、私たちは無意識のうちに瞬間的な判断を下してしまいます。そうせずにはいられず、私たちはそのように偏見を持つものなのです。ほんの数秒その人を見ただけで、性別、人種、年齢を見て取ったり、魅力的か、信頼できるか、親切そうかを判断したりします。
実際にその人と親しくなった後で、最初の印象が間違っていたと気づくこともあります。大したことではないですよね？
しかし、私たちの思い込みが、将来の人工知能（AI）による重要な決定の仕方を形作りうることを考えると、これは非常に大きな問題です。
この問題を一般の人々に示すため、メルボルン大学の研究者たちがBiometric Mirror（バイオメトリック・ミラー）を開発しました。
世間の認識
Biometric Mirrorは、人の顔を分析し、年齢、人種、そして知覚された魅力度などを含む14の特性を表示するAIです。
このシステムにそれを行わせるため、メルボルンの研究者たちはまず、人間のボランティアに数千枚の写真を同じ特性について判断してもらいました。これが、新しい顔を分析する際にBiometric Mirrorが参照するデータセットとなりました。ボランティアが提供した情報は主観的だったため、Biometric Mirrorの出力も同様に主観的なものとなりました。もし回答者の大半が、ひげを生やした人は信頼性が低いように見えると考えていたなら、それはBiometric Mirrorがひげのある人をどのように判断するかに影響したはずです。
AIの倫理
Biometric Mirrorを利用するには、人が数秒間システムの前に立つだけで済みます。システムは素早く顔をスキャンし、知覚された特性を画面に一覧表示します。その後AIは、その情報を他者と共有された場合に自分がどう感じるかを考えるよう本人に求めます。AIが信頼性が低いと評価したために仕事に就けなかったとしたら、どう感じるでしょうか。あるいは、攻撃性が高いと評価されたために法執行機関に標的にされたとしたら、どうでしょうか。
「私たちの研究は、AIの境界について困難な問いを投げかけることを目的としています。非倫理的または問題のある方法で差別を行うAIが、いかに容易に実装できるかをユーザーに示すものであり、それが社会的な影響をもたらしかねません」と、主任研究者のニールス・ウーターズ氏はプレスリリースで述べています。「プライバシーと大規模監視に関する議論を促すことで、AIの倫理に対する理解を深める一助となることを願っています。」
偏見の排除
Biometric Mirrorのように偏りの大きなシステムは、AIがより広く使われ、ますます重要な決定を下すようになるにつれ、重大な結果をもたらしかねません。しかもこれは単に将来起こりうる可能性というだけではありません。すでに今日のシステムにおいても、その例が現れています。研究者たちは、将来のシステムに同じ欠陥が含まれないようにする方法の策定に取り組んでいますが、偏ったAIが社会に与えうる影響について、一般の人々が考えることが重要です。Biometric Mirrorは、まさにそのための一助となりえます。
