機械学習アルゴリズムがビジネス、政治、社会における意思決定を支配するようになるにつれ、個人データを提供せよという圧力は着実に高まり、プライバシー保護は侵食されていくだろう。われわれがこれらの新技術の手綱を握らなければ、それらは、われわれが選んだわけではない政治体制へとわれわれを導きかねない。
紀元前1200年頃、中国の商王朝は、日常生活や祭祀儀礼で使用するための巨大な青銅器を数千点製造するため、工場制度を確立した。この初期の大量生産の例において、青銅鋳造の工程には緻密な計画と、それぞれが決まった順序で別々の作業を担う大勢の労働者の連携が必要だった。
それから千年後、中国初の皇帝である秦始皇帝が披露した有名な兵馬俑の軍団も、同様に複雑な工程を経て造られた。サンフランシスコのアジア美術館によれば、これらの像は「大量生産と商業の進歩への道を開いた組立生産システムを用いて制作された」という。
一部の学者は、推測しているが、これら初期の規定的作業技術が中国社会の形成に大きな役割を果たしたという。とりわけ、人々を官僚的構造の受容、階層を重んじる社会哲学、そして物事には唯一の正しいやり方があるという信念へと傾かせたようだ。
19世紀にヨーロッパで産業工場が導入された際には、フリードリヒ・エンゲルスのような資本主義の断固たる批判者でさえ、認めた。大量生産は、経済体制が資本主義か社会主義かを問わず、中央集権的な権威を必要とするのだと。20世紀には、ラングドン・ウィナーのような理論家たちがこの考え方を拡張し、他の技術にも適用した。例えば彼は、原子爆弾は「本質的に政治的な産物」とみなされるべきだと考えた。その「致死的な特性が、中央集権的で厳格に階層化された指揮系統によって管理されることを要求する」からである。
今日、われわれはその考えをさらに先へ進めることができる。機械学習アルゴリズムを考えてみよう。今日使用されている最も重要な汎用技術である。現実世界の事例を用いて人間の認知能力を模倣するこれらのアルゴリズムは、すでに職場において遍在しつつある。しかし、これらの技術を十分に活用するためには、組織は人間の作業を、これらのアルゴリズムの強みにより適した予測課題として再定義しなければならない。
機械学習アルゴリズムの重要な特徴は、データが増えるほど性能が向上することである。その結果、これらのアルゴリズムを使用することで、人に関する情報を記録可能でアクセス可能なデータとして扱おうとする技術的な勢いが生まれる。大量生産の体制と同様に、それらは「本質的に政治的」である。その中核的な機能が特定の社会的慣行を要求し、他を退けるからだ。特に機械学習アルゴリズムは、個人のプライバシーへの欲求と真っ向から対立する。
個々のコミュニティ構成員に関する情報の公開性に基づくシステムは、社会学者アミタイ・エツィオーニのような共同体主義者にとっては受け入れやすいものに見えるかもしれない。彼にとっては、プライバシーの制限は社会規範を強制する手段である。しかし、共同体主義者とは異なり、アルゴリズムは社会規範に無関心である。その唯一の関心は、人間生活のますます多くの領域を、採掘可能なデータセットへと変換することによって、より良い予測を行うことにある。
さらに、技術的な命令の力は、個人主義的な西洋人を意図せぬ共同体主義者へと変えるとともに、アルゴリズムによる評価に基づく能力主義の文化にいっそう強く縛りつけもする。職場であれ、学校であれ、あるいはデーティングアプリであれ、われわれはすでに、人格を欠いたツールによって適格性を査定され、その結果として階層のなかの位置を割り当てられることに慣れてしまっている。
もちろん、アルゴリズムによる査定は新しいものではない。一世代前、オスカー・H・ギャンディのような学者たちは、われわれが点数化・順位付けされる社会へと変わりつつあると警告し、技術によって生じた誤りに対するより大きな説明責任と救済を求めた。しかし、現代の機械学習アルゴリズムとは異なり、旧来の査定ツールは比較的よく理解されていた。それらは関連する規範的要因と経験的要因に基づいて判断を下していた。例えば、クレジットカードの負債を多く抱えると信用力が損なわれかねないことは、秘密でも何でもなかった。
対照的に、新しい機械学習技術は、大規模なデータセットの奥深くを探り、予測には有効でありながら十分には理解されていない相関関係を見つけ出す。職場では、アルゴリズムは追跡できる従業員の会話、昼食をどこで取るか、またコンピュータ、電話、会議にどれだけの時間を費やしているかを。そしてそのデータによって、アルゴリズムは、われわれの常識的な直観をはるかに上回る、高度な生産性モデルを構築する。アルゴリズムによる能力主義においては、そのモデルが要求するものが、新たな卓越性の基準となる。
とはいえ、技術は運命ではない。われわれが技術を形づくってから、技術がわれわれを形づくるのである。ビジネスリーダーと政策立案者は、自らの制度上のニーズに応じて、望む技術を開発し、導入することができる。人間生活の機微な領域の周りにプライバシーの網を張り巡らし、データの有害な利用から人々を守り、アルゴリズムに対し、予測精度を、公平性、説明責任、透明性といった他の価値と均衡させることを求めることは、われわれの力の及ぶ範囲にある。
しかし、アルゴリズムの論理の自然な流れに従うならば、より能力主義的で共同体主義的な文化は避けられないだろう。そしてこの着実な変化は、われわれの民主的制度や政治構造に広範な影響を及ぼすだろう。中国研究者のダニエル・A・ベルと張維為が指摘しているように、西洋の自由主義的民主主義の伝統に対する主要な政治的代替案は、中国において進化を続けている共同体主義的制度である。
中国では、集団的な意思決定が市民の明示的な同意によって正当化されることはなく、人々は一般に、特に監視に関して、政府に対して執行可能な権利を少ししか持っていない。普通の中国市民の政治生活における役割は、主として地方選挙への参加に限られている。一方、国家指導者は能力主義的なプロセスを通じて選ばれ、自らを人民の福祉の守護者とみなしている。
自由民主主義国家が、そのような政治体制へ完全に移行する可能性は低い。しかし、ビジネスや消費者文化における現在の傾向が続けば、われわれは間もなく、個人主義と自由民主主義という自らの歴史よりも、中国の能力主義的・共同体主義的な伝統との共通点を多く持つようになるかもしれない。進路を変えたいのであれば、われわれは自らの政治的要請を、自らの技術の要請より優先させなければならないだろう。
