AIは、人間の推論と認知を自動化することによって、技術的ツールから基盤的インフラへと移行しました。
委任された認知は、世界の生産性を高める一方で、経済力を集中させ、エネルギー消費の需要を増大させます。
AIシステムが社会の意思決定にますます影響を及ぼす中、今後のガバナンスは人間の主体性と透明性を優先しなければなりません。
人工知能は、特殊な技術的能力から日常生活の基盤的要素へと急速に移行しつつあります。言語モデルはもはや研究所や企業のワークフローに限定されたものではありません。現在では、人々の文章作成、検索、学習、意思決定に組み込まれ、認知的な伴走者としての役割を増しています。
この変化は、技術的な進歩以上の意味を持ちます。認知そのものの統治のあり方が構造的に変わることを示しているのです。過去10年間、デジタルソーシャルメディアプラットフォームは、日常的な交流における行動の痕跡を取り込むことで経済価値を生み出してきました。デジタル変革の過去10年が、これらのプラットフォームを通じた社会データの抽出によって定義されてきたのであれば、現在の段階は、認知的努力のAIシステムへの委任によって特徴づけられています。職場調査によれば、従業員はすでに業務の大きな部分でAIツールを使用しています。この移行は、差し迫った問いを提起します。行動を単に形作るだけでなく、推論や判断にもますます参加するシステムを統治するとは、何を意味するのでしょうか。
ソーシャルプラットフォームから委任された認知へ
ソーシャルメディアプラットフォームは、人々のつながり方、承認の表現方法、注目の共有方法を設計することで、日常的な交流を経済価値の源泉へと変えました。数十億人のユーザーを抱えるこれらのプラットフォームは、標準化された行動を通じて、大量の構造化された、計算可能なデータを生み出しました。この仕組みにより、前例のない規模が実現しました。しかし同時に、解釈と経済の権力が少数の有力なデジタルプラットフォームの手に集中することにもなりました。この変化は、最新の世界の広告予測にも反映されています。
言語モデルは、この論理を人間の活動のより深い層へと拡張します。言語モデルは、ソーシャルな交流だけを捉えるのではなく、人間の推論の主要な媒体である言語そのものに直接作用します。人間の推論の媒体。これにより、委任された認知に基づく新たな形の価値創造が可能になります。すなわち、特定の種類の精神的努力を自動化されたシステムに外部委託することです。
認知インフラとしての言語モデル
言語モデルは、新しい種類のインフラとして機能します。以前のデジタルプラットフォームと同様に、摩擦が少なく、拡張性が高くなるよう設計されています。しかし、ソーシャルプラットフォームとは異なり、その主要な影響力は、人々が物事を理解し、意思決定を行う方法にあります。すべてのやり取りは、人間の推論の断片を明らかにします。これらのデータの流れは、実質的な経済価値を生み出す可能性を秘めており、2032年までにAI分野で1.3兆ドルと推定される、同時に大きな認知的権力をもたらします。その権力は、何が理解可能になり、何が実行可能になるかを形作ることにあります。
同時に、言語モデルの恩恵も相当なものです。生産性を大幅に高めることができます。研究によれば、言語モデルはタスクの完了時間を短縮でき、一般的な職種のタスクのほぼ半分がより速く完了し、ほとんどの職種において業務のかなりの部分が加速されることが示されています。また、専門知識への参入障壁を下げ、言語の壁を越えた参加を可能にします。リアルタイムでの統合や意思決定支援を提供することで、これらのシステムは、本来であればかなりの時間と組織的能力を必要とする複雑さを、個人や組織が乗り越える助けとなります。
現代の言語モデルの利用を特徴づける重要な点は、世論形成と意思決定支援における役割が拡大していることです。ユーザーは、事実情報だけでなく、日常の意思決定の指針を得るためにも、AIシステムを相次いで利用しています。これらのシステムには意図や価値観はありませんが、その出力は学習データと設計上の制約によって形作られます。これにより、自動化バイアスのリスクが生じます。すなわち、機械が生成した出力は自信に満ち、中立的に見えるため、過度に信頼してしまう傾向です。
日常的なユーザーにとって、支援と影響力の区別はしばしば不明確です。言語モデルは指示を出すわけではありませんが、その流暢さが説得力のある権威を与えます。リスクの低い状況では、これは無害に見えるかもしれません。しかし大規模になると、自動化された推論への持続的な依存は、重要なガバナンス上の問いを提起します。
委任された認知の経済的論理
言語モデルの急速な普及は、強力な経済的インセンティブに支えられています。AIへの世界的な投資は、2025年に2,590億ドルに達しました。従来のプラットフォームモデルと同様に、データと引き換えにアクセスが補助される一方、高度な機能は収益化されることが多くなっています。
委任された認知の経済性は、物質的な影響も伴います。以前のデジタルツールは、エネルギーコストを個々の機器や組織に分散させていましたが、大規模な言語モデルは、大きく持続的なエネルギー需要を伴う集中型データセンターに依存しています。2024年には、データセンターが世界で約415テラワット時の電力を消費しました。これは全電力使用量のおよそ1.5％に相当します。これらのセンターは特定の法域に置かれることが多く、執筆から意思決定に至るまでの日常的な認知活動を、遠方のエネルギー市場や規制制度と結び付けています。ユーザーレベルでは分散しているように見えるものが、実際にはインフラレベルでますます集中化しているのです。
この動向は集中を強めます。大規模言語モデルの開発と統治は、少数の主体によってますます支配されつつあります。これらのシステムがインフラ化するにつれ、透明性と説明責任の問題は公共の利益に関わる事柄となります。
AIガバナンスにとっての意味
世界的なガバナンス機関にとって、委任された認知の台頭は、既存のAIガバナンスの枠組みを発展させる必要性を示しています。現在の多くのアプローチは、欧州連合の一般データ保護規則などのデータ保護制度や、欧州連合の人工知能法のリスクベースの構造を含む、プラットフォーム経済を規制するための初期の取り組みに由来しています。これらの枠組みは、データの取り扱いを統制し、特定可能な被害を制限するために設計されました。これらは依然として必要ですが、情報の解釈や意思決定の方法を能動的に形作るシステムを想定して設計されたものではありません。したがって言語モデルは、受動的な処理装置としてよりも、意思決定プロセスにおける仲介者として機能しています。
この変化は、人間の主体性をAIガバナンスの中心に据えるものです。言語モデルが問題の枠組みや選択肢の優先順位付けにますます影響を及ぼすにつれ、透明性は技術的な安全策ではなく、制度上の要件となります。AIを介した出力が現実の結果に影響を与える場合、明確な説明責任の線引きが不可欠です。システムの振る舞いが文化的な不均衡を反映している場合、包摂は構造的な課題として取り組まなければなりません。公共の信頼は、ガバナンスの枠組みが広範な公共の利益に資するものと認識されるかどうかにかかっています。
これらの動向を総合すると、言語モデルはデジタルシステムの進化における新たな段階を示しており、認知そのものが自動化と調整の対象となりつつあることを示唆しています。これらのシステムが個人や制度の理解と意思決定をますます形作るにつれ、技術としてだけでなく、社会システムとして統治されなければなりません。公共や制度の意思決定に責任を持つ人々にとって、今後の課題は自動化に抵抗することではなく、知的支援の時代において人間の主体性を守る形で自動化を統治することです。
