人間は歴史的に、最新の機械技術の波を信頼するまでに長い時間をかけてきた。
身体的危害が伴う状況では、人々は同じ行為を行う人間よりも機械を より有害だとみなす傾向がある。
機械が どのように振る舞うべきかへの関心と、私たちが機械をどのように評価するのかへの理解とを結びつけることが重要である。
最近では、投票機が論争の的となってきた。それでも、人々が機械に抱く嫌悪感は今に始まったことではない。
約500年前、印刷技術は悪魔の道具として非難されていた。今日の同等の存在である人工知能は、失業や偏見の原因として日常的に批判されている。
しかし、あらゆる怒りが正当なものなのだろうか。
人々が機械に対して示す反応を研究している学者たちは、私たちがいつ、なぜ人間と機械を異なるように評価するのかを明らかにし始めている。
倒れてくる木を避けるために車が急ハンドルを切り、その結果歩行者をはねてしまう場面を想像してほしい。その行為が人間の運転によるものではなく自動運転車によるものだと信じた場合、人々はこの行為を異なって評価するだろうか。
私の最新刊『How Humans Judge Machines』では、共著者と私は6,000人を超えるアメリカ人に、臨床試験の手法を用いて、まさにこのような場面への反応を尋ねた。
被験者の半分は人間の行為を含むシナリオのみを見せられ、残りの半分は機械の行為を含むシナリオのみを評価した。これにより、人々がいつ、なぜ人間と機械を異なって評価するのかを探ることができた。
悪い機械、良い人間
前述の自動車事故では、人間が行った行為とまったく同じであるにもかかわらず、人々は自動運転車の行為をより有害で不道徳だと判断する。
別のシナリオとして、津波に対応する緊急対応システムを考えてみよう。ある人々には、町の避難が成功したと伝えられた。別の人々には、避難活動が失敗したと伝えられた。
私たちの結果は、この場合にも機械が不利な立場に置かれることを示した。実際、救助活動が失敗した場合、人々は機械の行為を否定的に、人間の行為を肯定的に評価した。
データは、人々が機械の行為をより有害で道徳性に欠けると有意に評価し、また機械ではなく人間を雇いたいと回答したことを示した。
機械はいつも貧乏くじを引くのだろうか。
長い間、学者たちは人々がアルゴリズムに対して忌避感を抱くことを知っていた。アルゴリズムが人間よりも予測に優れている場合でも、人々は人間の予測者を選ぶ傾向がある。この現象はアルゴリズム忌避として知られており、予測精度のわずかな差が重要となる世界においては、大きな代償を伴いうる。
ある最近の論文において、バークレー・ディートヴォルスト、ジョセフ・シモンズ、ケイド・マッシーは、個人が自分自身、他者、またはモデルによる予測に金銭的報酬を結び付けられる5つの実験を用いて、アルゴリズム忌避を検証した。
機械は透明性を備える必要があるが、透明性が最終的に人々を機械に対して偏らせる可能性があるという理解によって補完されなければならない。
セサル・A・イダルゴ
一部の実験では、人々は予測の全体的な成績を知っており、その結果は機械に有利な傾向があった。別の実験では、人々は実際の予測も観察できた。
結論として、人々は、アルゴリズムが誤る場面を目にした際に、アルゴリズムを より避ける傾向があった。つまり、全体的な結果に加えて誤りを目にすると、機械への選好は低下した。
この発見は、人々が倫理的AIの基本的な柱として透明性をしばしば求める世界において、興味深いものである。
機械は透明性を備える必要があるが、透明性が最終的に人々を機械に対して偏らせる可能性があるという理解によって補完されなければならない。この微妙な点を考慮しなければ、透明性によって、機械が実際には改善の源であるにもかかわらず、私たちは機械を拒絶するよう導かれてしまうかもしれない。
不公平な機械
しかし、人々が機械を人間よりもわずかながら高く評価するケースもある。これらは公正さや忠誠心の侵害を伴う道徳的シナリオであり、人間によって行われた場合には、高い意図性があると認識されるものでもある。
ロボットと人間が、レコード会社のために歌詞を書する場面を考えてみよう。調査によって、その歌詞がマイナーなアーティストの作品を盗用していたことが判明したと想像してほしい。このシナリオを人々に提示したところ、人間の行動は機械の行動よりも有害で道徳性に欠けると判断された。
公正さに関わる他のシナリオ、例えば偏りのある人事選考や大学入学審査制度でも、同様の結果が得られた。
人々が偏見のある人間や機械を好まないことは確かだが、その拒否反応を実験的に検証すると、人間の偏見は機械の偏見よりもわずかに有害で道徳性に欠けると評価される。
私たちは、機械の振る舞いに規範を課す時代から、機械がどのように振る舞うべきかではなく、私たちがそれをどのように評価するのかを示す法則を発見する時代へと移行しつつある。そして最初の法則は、力強くシンプルである。人々は人間を意図によって、機械を結果によって評価する。
では、機械を信頼できるのだろうか。そもそも私たちは機械を信頼したいのだろうか。こうした大胆な問いに対する包括的な答えは示せないかもしれないが、現在の研究は、いくつかの指針を与え始めている。
セサル・A・イダルゴは、MIT Pressが刊行した査読付きの書籍『How Humans Judge Machines』の著者である。同書は次のサイトで無料で読むことができます judgingmachines.com。トゥールーズ大学の人工・自然知能研究所（ANITI）で講座を担当するほか、マンチェスター大学およびハーバード大学でも任に就いている。
