MIT応用経済学教授のダロン・アセモグル氏が、現在のAI技術により厳しい規制が必要な理由を説明します。
規制がなければ、AI技術は社会に悪影響をもたらしかねないと同氏は論じます。
主な問題はAI自体ではなく、有力企業がデータとその利用にどう取り組んでいるかです。
アセモグル氏は、政策の焦点を技術変化の方向転換に置き、労働者や市民に新たな能力と機会をもたらすべきだと結論づけています。
人工知能（AI）は、経済や暮らし、私たちの能力を変革すると期待され、現代で最も刺激的な技術としてしばしば称賛されています。AIが着実に進歩し、まもなく多くの分野で人間の能力を超える「知能機械」の開発に向かっていると見る人さえいます。実際、AIはこの10年ほどで急速に進歩しました。特に、現代の統計的手法や機械学習技術が、膨大な非構造化データセットに適用されたことが大きく寄与しています。すでにほぼすべての産業に影響を及ぼしており、AIアルゴリズムはあらゆるオンラインプラットフォームで使われ、製造、医療、金融、卸売、小売に至る幅広い産業で活用されています。政府機関もAIに依存し始めており、特に刑事司法制度や税関・入国管理で利用されています。
最近の論文（Acemoglu 2021）で私は、現在のAI技術――とりわけ、統計的なパターン認識とビッグデータに依存する、現在主流のパラダイムに基づく技術――は、期待される利益よりも、さまざまな社会的悪影響をもたらす可能性の方が高いと論じています。
こうした弊害は、製品市場や広告に表れるほか、労働市場における格差、賃金の抑制、雇用の喪失にも見られます。また、社会的コミュニケーション、政治的議論、民主主義に関わるAIのより広範な社会的影響にも表れています。
AI、情報の管理、製品市場
これらすべての場合において、主な問題はAI技術そのものではなく、AI技術の方向性に圧倒的な影響力を持つ有力企業が、データとその利用にどう取り組んでいるかです。
広告や製品設計における機械学習やビッグデータ手法の利用を考えてみましょう。原理的には、製品の品質を高めたり、カスタマイズを可能にしたりすることで、こうした手法は消費者の利益になり得ます。しかし、最終的には消費者の福利にさまざまな悪影響を及ぼす可能性があります。まず、顧客に関する情報をより多く得た企業は、その知識を価格差別に利用し、本来なら消費者に渡っていたはずのレントを、より多く取り込むおそれがあります。寡占市場では、消費者データの収集によって価格競争が緩和されることもあります。直感的には、優れた知識を持つ企業が価格差別を行うと、その企業の主要顧客層が他社にとって魅力の薄いものになり、他社が価格を引き上げるよう促される場合に起こり得ます。もちろん、こうした価格上昇圧力は消費者の福利をさらに損ないます。
こうした新たな手法の別の利用法は、消費者にとってさらに有害になり得ます。たとえば、オンラインプラットフォームは、利用者に関する過剰な量の情報を掌握するようになる可能性があります。一部の利用者のデータを購入または取得すると、それによって他の利用者に関する情報も得られるためです。この種の「データ外部性」は、利用者が友人や知人に関する情報を直接明かす場合や、同じ狭い属性集団に属する他者の情報と相関する情報を共有する場合に、より生じやすくなります。データ外部性によって、企業の手元に過剰なデータが集中し、プライバシーや消費者余剰に悪影響が及ぶ可能性があります（Acemoglu et al. 2021b）。
さらに深刻なのは、企業が消費者の嗜好に関する優れた情報を使い、消費者の行動を操る可能性があることです（例：Zuboff 2019）。消費者が完全に合理的だとするモデルでは、行動操作は一般的ではありません。しかし、消費者が自らの行動を追跡・予測するために使われる新たなデータ収集・処理手法の規模を十分に理解していない場合、行動操作は十分に起こり得ます。こうした操作の基本的な考え方は、ハンソンとカイザーのような反トラスト法の法学者にも理解されていました。彼らは「個人が体系的に非合理的な行動を取ることを認めるなら、経済的観点から、他者が利益を得るためにその傾向を利用するという帰結が導かれる」と指摘しています（1999: 630）。実際、広告には常に何らかの操作的要素が含まれてきました。しかし、AIツールによってその操作の程度が増幅された可能性があります。すでにAIを用いた操作の例はいくつかあります。たとえば、米小売チェーンのターゲットが女性の妊娠の有無を正確に予測し、ベビー用品の広告を本人に気づかれない形で送っていた事例や、さまざまな企業が「最も脆弱になる瞬間」を推定し、そのような瞬間に衝動買いされやすい商品の広告を出していた事例です。また、YouTubeやFacebookなどのプラットフォームがアルゴリズムを使い、特定の利用者層に対して、より依存性の高い動画やニュースフィードを推定して優先的に表示することも挙げられます。
AIと労働市場の格差
労働市場におけるAIベースの技術の影響は、さらに深刻なものになり得ます。米国や他の先進国のいくつかでは労働市場の格差が拡大しており、多くの証拠が、その一因は自動化技術の急速な導入と展開にあることを示しています。こうした技術は、低・中技能労働者が従来担っていた業務を奪います（Acemoglu and Restrepo 2021）。このような自動化や、それに伴う格差への悪影響は、AI以前から存在していました。それでも、Acemoglu et al.（2021a）は、2016年以降の米国におけるAIの加速が自動化を狙ったものであり、他の自動化技術と同様の影響を及ぼしていると指摘しています。AIとデータの広範な利用は、自動化の可能性を広げ、米国や他の先進国がここ数十年に経験してきた格差の傾向を悪化させる可能性があります。
原理的には、自動化は効率を高め得ます。しかし、非効率な形で進むと考える理由もあります。重要な理由の一つは、労働市場の不完全性が存在し、企業にとっての労働コストが社会的な機会費用を上回ることです。この状況では、企業は、たとえ自動化によって社会的余剰が減少するとしても、労働者から自社へレントを移すために自動化を進めます。
AIの別の利用法は、さらに強い悪影響をもたらす可能性があります。たとえば、AIや職場データを使って労働者の監視を強化することです。ここでも、交渉力や効率賃金の考え方により労働者にレントがある場合、監視の強化は、企業がそのレントを労働者から取り戻すうえで有益になり得ます。しかし同じ論理からすれば、そうしたレントの移転は社会的に非効率で過剰です。限界的には、社会的余剰に貢献せず、ある集団から別の集団へ移すだけの、コストのかかる活動です。
AI、社会的議論、民主主義
AIベースの自動化には、ほかの悪影響もあります。近いうちに大量失業を引き起こす可能性は低く（他の自動化技術による雇用喪失の影響も、これまでのところ限定的です）、労働者の職の喪失はさまざまな社会的混乱をもたらします。仕事との結びつきが弱まった市民は、市民活動や政治への参加が減る可能性があります（Sandel 2020）。さらに重要なのは、自動化によって労働から資本へと力の均衡が移ることで、民主主義制度の機能に広範な影響が及び得る点です。言い換えれば、民主政治が労働と資本の異なる立場の間にある相互牽制的な力に依存する限り、自動化は生産過程において労働を不要にし、民主主義を損なう可能性があります。
AIが民主主義に及ぼす影響は、自動化による影響だけにとどまりません。AIによってこれまで最も劇的に変化した分野の一つが、コミュニケーションとニュース消費です。特に、さまざまなソーシャルメディアプラットフォームが提供する製品やサービスを通じて変化が進みました。AIの利用とユーザーデータの収集は、すでに社会的な議論のあり方を変えています。現時点の証拠は、AIとデータ収集が、民主政治に欠かせない事実や優先事項に関する共通理解を損ない、分極化を招いてきたことを示しています（例：Levy 2021）。キャス・サンスティーンが20年前に予見したように、「細分化と過激化は……似た考えを持つ人々が互いにしか話さない、あらゆる状況で予測可能な結果である」。彼はさらに、「共通の経験がなければ、多様な社会は社会問題への対処がはるかに難しくなる」と強調しました（Sunstein 2001: 9）。実際、AIを活用したソーシャルメディアは、一方でこの種の細分化と過激化を、他方で誤情報の拡散を促してきたようです（例：Vosoughi et al. 2018）。
テクノロジーの方向性をめぐる問題
ここまでの論調から、AIは必然的に深刻な社会的悪影響をもたらし、私がこの技術に強く反対しているという印象を受けるかもしれません。どちらも事実ではありません。AIは有望な技術基盤です。問題は、この技術が現在、労働者や消費者を犠牲にして企業（場合によっては政府）に力を与える方向で開発・利用されていることにあります。この現状は、AIを支配する企業の事業慣行や優先事項、そしてそれがAI研究者に生み出すインセンティブの結果です。
ソーシャルメディアを考えてみましょう。私が指摘した問題の主な理由は、プラットフォームが利用者を「夢中にさせる」ことで、利用者のエンゲージメントを最大化しようとしていることです。この目標は、広告によってデータと消費者のトラフィックを収益化することを中核とするビジネスモデルに根ざしています。規制がないことも、この状況をさらに可能にしています。
自動化の悪影響についても同じことが言えます。AIは、人間の生産性を高めたり、労働者に新たな業務を生み出したりするために活用できます（Acemoglu and Restrepo 2018）。AIが主に自動化に使われてきたのは、選択の結果です。技術の方向性を左右するこの選択は、有力テクノロジー企業の優先事項と、アルゴリズムによる自動化を中心に据えたビジネスモデルによって決まっています。
より一般的に言えば、AIの現在の進路は、労働者や市民を犠牲にして企業に力を与えています。また、政府に監視や、時には抑圧のための追加的な統制手段を提供することも少なくありません（新たな検閲手法や顔認識ソフトウェアなど）。
結論：規制の必要性
この論理から導かれる結論は明快です。AIをめぐる現在の問題は、より広範な社会的影響や分配への影響を無視する、規制されていないAIの問題です。実際、規制のない市場が、社会的弊害とデータ独占による利益の間で適切なバランスを取ると期待するのは、世間知らずと言えるでしょう。
この見方からは、問題が独占力だけではないことも示唆されます。大手テクノロジー企業が数社より多く存在したとしても、異なるビジネスモデルやAIへの異なるアプローチを採用する保証はありません。したがって、反トラスト法はAIの潜在的な弊害に対処するうえで最も強力な手段ではなく、まして十分な手段でもありません。むしろ政策は、企業に力を与えるための自動化やデータ収集から技術変化を遠ざけ、労働者や市民に新たな能力と機会をもたらす方向へ導くことに重点を置くべきです。また、データの収集・取得や、ユーザーの行動、オンライン上のコミュニケーションと情報交換を操作するための新たなAI技術の利用を、体系的に規制することも優先すべきです。
AIとデータが広く浸透していることを踏まえ、私は「予防的規制原則」と呼べる新たな規制アプローチも提案したいと思います。事前規制によってAI技術の利用を抑制すべきです。特に、大規模な導入後にはAIのコストを是正することが政治的にも社会的にも難しくなる分野で、そうする必要があります。
政治的議論や民主政治に影響を及ぼすAI技術は、この予防的規制原則を適用する有力な候補です。（過剰な）自動化とその社会的影響も元に戻すことが難しいのであれば、自動化や労働市場の監視にAIを利用することも同様です。
参考文献
Acemoglu, D（2021）、「AIの弊害」、『AIガバナンスのオックスフォード・ハンドブック』、刊行予定。
Acemoglu, D and P Restrepo（2018）、「人間と機械の競争：成長、要素所得分配、雇用に対する技術の影響」、『アメリカン・エコノミック・レビュー』108巻6号：1488--1542。
Acemoglu, D and P Restrepo（2019）、「自動化と新たな業務：技術はいかに労働需要を変えるか」、『経済展望ジャーナル』33巻2号：3--30。
Acemoglu, D and P Restrepo（2021）、「業務、自動化、米国の賃金格差の拡大」、NBERワーキングペーパー第28920号。
Acemoglu, D, D H Autor, J Hazell and P Restrepo（2021a）、「AIと雇用：オンライン求人からの証拠」、NBERワーキングペーパー第28257号、刊行予定の『労働経済学ジャーナル』。
Acemoglu, D, A Makhdoumi, A Malekian and A Ozdaglar（2021b）、「過剰なデータ：データ市場における価格と非効率性」、『アメリカン・エコノミック・ジャーナル：ミクロ経済学』、刊行予定。
Hanson, J D and D A Kysar（1999）、「行動主義を真剣に考える：市場操作を示すいくつかの証拠」、『ニューヨーク大学ローレビュー』74巻：630。
Levy, R（2021）、「ソーシャルメディア、ニュース消費、分極化：フィールド実験による証拠」、『アメリカン・エコノミック・レビュー』111巻3号：831-870。
Sandel, M J（2020）、『能力主義の専制：共通善はどうなったのか？』、ニューヨーク州ニューヨーク：ペンギン・プレス。
Sunstein, C（2001）、『Republic.com』、ニュージャージー州プリンストン：プリンストン大学出版局。
Vosoughi, S, D Roy and S Aral（2018）、「オンラインにおける真実と虚偽のニュースの拡散」、『サイエンス』359巻：1146--1151。
Zuboff, S（2019）、『監視資本主義の時代：権力の新たな最前線で人間の未来を守る闘い』、英国ロンドン：プロファイル・ブックス。
