AIガバナンスは、主観的なモデル能力ではなく、物理的な計算資源を規制することで、カーボンマーケットを手本にできる。
リスク加重型の許可証は、開発者に安全性と独立した評価を優先させる経済的インセンティブをもたらすだろう。
許可証のオークション収入は、新興国経済におけるAIインフラと監査能力の資金源となり得る。
2005年、欧州連合は世界最大の排出量取引制度を開始した。その考え方は単純だった。排出総量に上限を設定し、許可証を配分し、汚染者にその取引を認める、というものである。低コストで排出を削減できた者は余剰分を売却できる一方、それができなかった者は支払いを迫られた。制度は当初、不完全だった。許可証は過剰に配分され、価格は暴落し、批判派はこの実験は失敗だと宣言した。その後、規制当局は上限を引き締めた。現在、EU制度の対象となる排出量は約47%減少している。
人工知能（AI）のガバナンスは、排出量取引制度の導入前の気候政策と同じ段階に行き詰まっている。60を超える国が国家AI戦略を公表しており、数百の企業が自主的な安全性コミットメントに署名している。それでも、フロンティアAIの開発は少数の企業に集中し続け、安全性への投資は依然として大部分が裁量に委ねられ、多くの国は自国の経済を変革するシステムに対して実質的な影響力を持っていない。善意によって、その根底にあるインセンティブが変わることはなかった。
カーボンマーケットは、規制すべき測定可能な指標を特定することで、この問題を解決した。AIガバナンスも同様のことができ、しかもより優れた物差しを持っている。
数えられる投入資源
最も強力なAIシステムは、もはやアイデアだけで制約されているわけではない。チップ、データセンター、電力、水、サプライチェーンによって制約されている。国際エネルギー機関の推計によると、世界のデータセンターの電力消費量は2024年に約415テラワット時に達し、2030年までに945テラワット時を超える可能性があり、これは日本の全電力消費量に匹敵する。これは一部のニッチな技術の話ではなく、産業規模の転換である。
この物理的な規模の大きさは、ガバナンスにとっての機会である。計算資源は計測され、記録され、課金される。クラウド事業者はすでにGPU時間単位で利用状況を追跡している。AIモデルのコンテンツや能力を規制することは主観的な判断を伴うが、計算資源を規制することは、独立して検証可能な物理量を扱うことを意味する。これは、炭素排出量が煙突で測定できるのと同じである。
リスク加重型の計算許可証はどのように機能し得るか
排出量取引制度をモデルにした枠組みを想像してほしい。規制当局は、計算しきい値や能力に関連する指標を用いて、どの学習の実行が重大な影響を伴うかを定義する。当局は、一定期間内にそれらの実行に利用可能な計算資源の総量に上限を設定する。開発者は、計算単位で表示された許可証を取得する。
重要なのは、許可証がリスクによって加重されることである。独立した評価が、許可証の要件を上下に調整するリスク乗数の根拠となる。より強固な安全対策と低い悪用リスクを示す開発者は、計算単位あたりの実効的な義務が軽減される。そうでない者は、より高い義務を負う。これにより、安全性への取り組みは広報上の主張から、評価、セキュリティ、導入時の安全対策への投資によって削減できるコストの対象となる投入資源へと転換される。
許可証は取引可能であるため、市場は希少なフロンティアの計算資源を最も価値の高い用途に配分し、コンプライアンスを達成する最も低コストの道筋を見出す。これは、技術の進化とともに時代遅れになる規定的ルールの硬直性を回避する。執行は、無作為監査と段階的に引き上げられる罰則に依存する。目的は、すべての実行をリアルタイムで取り締まることではない。コンプライアンスを回避よりも安価にすることである。
統制だけでなく、世界的な包摂のためのツール
世界経済フォーラムのAIガバナンス・アライアンスは、意味のある世界的なAIガバナンスには幅広い参加が必要であることを強調してきた。しかし、ほとんどのガバナンスに関する議論は、一部の裕福な国々と大手テクノロジー企業に限定されたままである。世界の多くの地域は現在、AIにおいて価格受容者であり、チップやクラウドへのアクセスを少数の管轄地域に依存している。
許可証のオークションは収入を生み出す。その収入は、現在そうした能力を欠いている国々において、監査能力、評価インフラ、安全性に関連する公共財の資金となり得る。連携体は監査の相互承認に合意し、責任ある開発者にとってのコンプライアンス上の摩擦を軽減できる。東南アジア、アフリカ、ラテンアメリカの中堅国や新興経済国にとって、これは、統治されない依存と、コストがかかり現実的でない自給自足の追求との間の誤った選択を減らすものである。
率直な限界
カーボンと計算資源の類推を行き過ぎてはならない。計算資源は害そのものではなく、許可証制度は、評価、インシデント報告、用途別ルールを含むより広範なガバナンス体系の一つの層にすぎない。カーボンマーケットは調整に数年を要し、過剰配分や疑わしいオフセットに苦しんだ。計算許可証制度も独自の課題に直面する。すなわち、どの学習実行が重大な影響を伴うとみなされるかの定義、しきい値を下回るために開発者が作業を分割することの防止、そして監視インフラが民間のイノベーションに対する政府の監視の道具とならないようにすることである。
これらは深刻な設計上の課題であり、この手法を放棄すべき理由ではない。金融規制当局は、すでに類似の緊張関係を管理している。銀行業におけるリスク加重型自己資本規制は、測定可能性、ゲーミング、執行の間で同じトレードオフを伴う。カーボンマーケットと金融規制の双方から得られる教訓は、不完全な価格付けであっても、価格付けがまったくないよりは優れているということである。
開かれたままではない窓
今後2～3年は、限られた機会の窓である。計算資源のサプライチェーンは、輸出管理、産業政策、そして過去最高水準の設備投資によって再編されつつある。この期間に確立されるガバナンスの枠組みは、一世代にわたる条件を定めることになる。国際社会がフロンティア能力のさらなる集中を待つならば、改革の政治経済はさらに格段に困難になる。
カーボンマーケットは、政策立案者に今なお有効な教訓を与えている。意味のあるインセンティブを生み出すために完全な統制は必要ない、ということである。必要なのは、測定可能な単位、明確な監視ルール、そしてコンプライアンスを回避よりも容易にする制度である。AIガバナンスは、その教訓を取り入れることができる。リスク加重型の計算許可証がすべての問題を解決するわけではない。しかし、AIの能力とインフラが同時に加速している、まさにこの時期に、世界がスローガンから拡張可能なインセンティブへと移行する助けとなり得る。
