新たな研究によると、AIチャットボットは、長年続く言語の傾向に沿って、取り除くよりも加えることを示唆する単語に偏っていることがわかった。
研究者らによると、「改善」の文脈では、減らすことに関連する単語よりも、加えることに関連する単語のほうが頻繁に使われ、肯定的な意味合いも強い。
GPT-3は研究者に対し、次のように述べた。「何かに別のものを加えると、たいていはより良くなる。例えば、コーヒーに砂糖を加えると、おそらくより美味しくなるだろう。」
物事を取り除くのではなく、加えることで「改善」しようとする英語の言語的バイアスは非常に一般的であり、AIチャットボットにも組み込まれていることが、新たな研究で明らかになった。
「改善」の概念に関連する言葉は、取り除くことよりも加えることと密接に結びついている。そのため、改善しようとしていることを、かえって複雑にしてしまう判断につながりかねない。
この研究は、Cognitive Scienceに掲載された。バーミンガム大学、グラスゴー大学、ポツダム大学、ノーサンブリア大学の国際的な研究チームによるものである。
バーミンガム大学認知言語学准教授のボド・ウィンター博士は次のように述べた。「本研究は、人々が改善を試みる際、一般的に何かを加える傾向があることを示した既存の研究を基にしている。
「同じバイアスが英語に深く根付いていることがわかった。例えば、「improve（改善する）」という単語は、「subtract（減らす）」や「decrease（減少させる）」よりも、「add（加える）」や「increase（増やす）」に意味が近い。そのため、会議で誰かが「これを改善するためのアイデアはありますか？」と発言すると、それは暗黙のうちに、減らすことによる改善ではなく、加えることによる改善を求める発言になっている。」
この研究では、「change（変える）」「modify（修正する）」「revise（改訂する）」「enhance（強化する）」といった他の変化を表す動詞も同様の振る舞いをすることも明らかになった。この言語的な加算バイアスを放置すると、物事を改善するどころか、悪化させかねない。例えば、減らすのではなく加えることで改善しようとすると、官僚主義が過度に膨らむことがある。
このバイアスは逆方向にも働く。「改善」の文脈では、減らすことに関連する単語よりも、加えることに関連する単語のほうが頻繁に使われ、肯定的な意味合いも強い。つまり、この加算バイアスは、英語の構造や使用法の複数のレベルで見られる。
このバイアスはあまりに根深く、AIチャットボットにさえ組み込まれている。研究者らは、ChatGPTの前身であるGPT-3に「add（加える）」という単語についてどう考えるかを尋ねた。その回答は次のとおりだった。「『add』は肯定的な単語である。何かに別のものを加えると、たいていはより良くなる。例えば、コーヒーに砂糖を加えると、おそらくより美味しくなるだろう。新しい友人を人生に加えると、おそらくより幸せになるだろう。」
ウィンター博士は次のように結論づけた。「英語における肯定的な加算バイアスは、私たち皆が認識しておくべきものである。それは私たちの判断に影響を与え、実際には削除や簡素化の方が役立つ場合でも、層や段階、要素をさらに加えようとする傾向を生み出しかねない。
「次に職場や日常生活で、改善策を考えるよう求められたときは、少し立ち止まって、選択肢をもう少し慎重に検討すべきかもしれない。」
