1912年のタイタニック号事故で誰が生き残ったかを97％の精度で予測できるアルゴリズムは、人工知能の力と限界を示していると、新刊書は論じている。
この調査結果が示すように、AIは正しい答えを出すことがある。しかし、その理由はまったく見当違いかもしれない。
ニューヨーク大学でジャーナリズムを教えるメレディス・ブルサードは、新著でこの逆説を詳しく論じている。『人工的な非知能：コンピューターはいかに世界を誤解するか』（MITプレス、2018年）。ブルサードは読者を、コンピューター・プログラミングをめぐる型破りな冒険の数々へと案内する。その中には、人工知能を「実行する」とは実際にどのようなことなのかを間近で見る体験も含まれている。
タイタニック号に関する計算では、性別、年齢、運賃等級など複数の変数を考慮し、乗客のうち誰が生き残り、誰が命を落としたかを予測する方法を作り出している。97％の精度を示しただけでなく、このアルゴリズムは、乗客が支払った運賃が事故で生き残るかどうかを決める最も重要な要因だったことも明らかにした。1等船室の乗客は、2等や3等の乗客より生存する可能性が高かった。
「数学に携わる人はこのことに驚くことが多い。女性や貧しい人々、マイノリティの人々は驚かない」
しかし、このコンピューター・ツールが比較的高い精度を示しているにもかかわらず、ブルサードはこう指摘する。「タイタニック号で誰が生き残り、誰が亡くなったかについての統計的予測が100％正確になることは決してない。統計的予測はどれも、100％正確にはなり得ないし、決してならない。人間は統計ではなく、これからも統計にはなり得ないからだ」。たとえば彼女は、運命が性別、年齢、運賃とは無関係で、沈みゆく船から逃げる際にどれほど遠くへ飛び降りたかに左右された2人の乗客の行動を紹介している。
彼女によれば、この違いは極めて重要であり、1912年当時よりも技術とデータへの依存が進んだ現代社会に警鐘を鳴らすものでもある。
「私たちのタイタニック号モデルは、1等船室の乗客に旅行保険料を安くする根拠として使われるかもしれない。しかし、それはばかげている。1等船室で旅行できるほど裕福でないことを理由に、人々に不利益を与えるべきではない」とブルサードは書く。彼女はニューヨーク大学アーサー・L・カーター・ジャーナリズム研究所の助教で、AT & Tベル研究所およびMITメディアラボの元コンピューター科学者でもある。
「何よりも、機械が決して学べないことがあり、人間の判断、補強、解釈が常に必要だということを、私たちはもう理解しているべきだ」
ブルサードはタイタニック号の例を通じて、テクノショービニズム、すなわち「技術は常に解決策である」という考えの広がりを取り上げ、デジタル時代が根強い社会問題を解決することはないと論じる。実際、機械学習は問題を悪化させる可能性があると彼女は指摘する。
「現実の世界のあり方を基に価格設定アルゴリズムを作れば、女性や貧しい人々、マイノリティの顧客には必然的に高い料金が請求される」と彼女は指摘する。
「数学に携わる人はこのことに驚くことが多い。女性や貧しい人々、マイノリティの人々は驚かない。人種、ジェンダー、階級は、さまざまな明白な形や巧妙な形で価格に影響を及ぼす。女性は男性よりも、ヘアカット、ドライクリーニング、かみそり、さらにはデオドラントに高い料金を払わされる。アジア系米国人は、SAT対策講座で高い料金を請求される可能性が2倍高い。アフリカ系米国人のレストラン従業員は、白人の同僚よりチップ収入が少ない」
彼女は、必要なのは新しく改良された技術ではなく、技術で何ができるか、その限界を理解することだと結論づける。そうすることで、技術を使って世界をすべての人にとってより良くするために、何をすべきかをより適切に選べるようになる。
