現在、世界のAIガバナンスは、合意の欠如というよりも、運用インフラの深刻な不足に苦しんでいる。
一握りの先端テクノロジー企業が資源を支配しており、世界の規制当局との間に深刻な力の不均衡を生んでいる。
真の成功には、すべての国々にまたがる持続的なピア・ラーニング・ネットワークと、独立した技術評価能力の構築が必要である。
国際連合が最初のAIガバナンスに関するグローバル対話を今年7月に控える中、世界は特異な状況に置かれている。直面する課題が何であるかについての合意は広がりつつあるが、それにどう対処するかについての合意はほとんどない。
政府、産業界、フィランソロピー、学術界、市民社会の間には、ある程度の合意が存在する。すなわち、AIシステムは安全で信頼できるものであるべきであり、権力は少数の主体の手に集中すべきではなく、ガバナンスは人権を保護し、説明責任を強化し、技術変化の影響を最も受ける人々が、その形成において意味のある役割を果たせるようにすべきだ、ということである。
しかし、合意だけでは行動は生まれない。ここにこそ国際連合が独自の機会を有している。政府、研究者、市民社会、フィランソロピー、産業界が、効果的なAIガバナンスに必要な結合組織を構築できるよう支援する、招集者、調整者、ファシリテーターとしての役割である。
したがって、AI対話の成功は、その最終宣言の強さによって測られるべきではない。それが、学習、調整、集団行動のための持続的な仕組みを残すかどうかによって測られるべきである。
インフラの危機
テクノロジーと社会の交差点に焦点を当てた財団の代表として、私は、多くの政府、研究者、フィランソロピー団体、市民社会組織、テクノロジー企業が、それぞれAIがもたらす影響に取り組んでいる様子を観察する特権を得ている。
分野や地域を超えて、議論の多くは、おなじみの一連の問いに集中している。AIは信頼できるものとなっているか。ますます高性能化するモデルをどのように評価するか。グローバル・サウスの国々が、ガバナンスの枠組みの形成において意味のある役割を果たせるようにするには、どうすればよいか。
これらは重要な問いであり、持続的な注意に値する。しかし同時に、それらは、より根本的な課題から目を逸らさせることもある。すなわち、誰がそれらに答える能力を持ち、いかなる仕組みを通じてそれを行うのか、という課題である。
今日、少数の先端テクノロジー企業が、技術人材、計算資源、評価能力、そしてAI開発をめぐる言説を支配している。政府や慈善資金提供者は、統治しようとしている当の主体が提供する情報に基づいて、巨額の投資判断を行っている。この力学は、情報の非対称性を生むだけでなく、効果的なガバナンスを損なう根本的な力の不均衡を生み出している。
同時に、調整を担うべき主体、すなわち各国政府、慈善財団、市民社会組織、研究機関は、大部分が互いに独立して活動している。政府はそれぞれ並行した戦略を追求している。
研究者は、互いにつながりのないネットワークの中で活動している。市民社会組織は、技術的な専門知識へのアクセスに苦労している。資金提供者は有望な取り組みを支援しているが、それらには調整や規模拡大のための道筋が欠けていることが多い。
私たちは、努力の不足ではなく、結合組織の不足ゆえに、行動を起こせないという窮地に立たされている。
また、多くの国々にとって、問題はさらに深刻である。ガバナンスをめぐる議論の多くは、米国と西欧の視点を中心にしており、資源の乏しい国々は、自国の技術的未来を形作る枠組みの設計から体系的に排除されている。この観点から見ると、AIガバナンスは、アイデアの不足というよりも、インフラの不足に苦しんでいるのである。
実際のインフラとはどのようなものか
AIが並外れた速度で進化を続けるのであれば、ガバナンスの仕組みは、より適応的で、協調的かつ迅速に対応できるものにならなければならない。
その出発点は、持続的なピア・ラーニング・ネットワークの構築である。類似した政策課題に直面する国々は、年次会合や長大な報告書を待つのではなく、実験、失敗、教訓をリアルタイムで共有できるべきである。ガバナンスは、静的な枠組みというよりも、能動的な学習システムのように機能すべきである。
また、迅速な知識交換の仕組みも必要である。画期的な能力の出現、安全性に関するインシデント、革新的な規制アプローチなど、重要な進展が生じた場合、意思決定者は、その影響を迅速に理解し、必要に応じて対応を調整するための信頼できる経路を必要とする。
同様に重要なのは、原則から実践へと移行することである。世界中で、政府、都市、そして各機関は、AIの監督に関するさまざまなアプローチを既に試行している。ガバナンスが断片化ではなく累積的なものとなるよう、それらの試みは記録され、評価され、公開で共有されるべきである。学習は、テクノロジーそのものよりも速く広がらなければならない。
重要であるが、しばしば見過ごされている要素は、技術的ガバナンス能力である。政策の相互運用性についての議論は、ますます一般的になっている。しかし、技術的な相互運用性についての議論は、そうなっていない。とはいえ、効果的なガバナンスは、システムを評価し、主張を検証し、政策の枠組みの根底にある技術的実態を理解する能力に依存している。独立した評価インフラと共有の技術資源がなければ、十分に設計された規制であっても、実施が困難になりかねない。
最後に、ガバナンスのインフラは、独立した声のための空間を生み出さなければならない。AIシステムを構築する組織が、その周囲の言説をも形成していることは、あまりにも多い。健全なガバナンスのエコシステムには、独立した研究、独立した評価、そして労働者、教育者、芸術家、先住民コミュニティ、そしてこれらの技術によって未来が形作られるその他の人々による、意味のある参加が必要である。包摂とは、単に代表性の問題ではない。それは、より良い意思決定の源泉なのである。
分野横断的な分散型リーダーシップ
このインフラを単独で構築できる機関は存在しない。
政府には、ルールを制定し、国際的に調整し、実施を通じて新たなアプローチを検証する上で重要な役割がある。研究者は、複雑な技術的進展を、実行可能な知見へと翻訳する支援ができる。市民社会組織は、ガバナンスが抽象的な前提ではなく、人々の生活の現実を反映することを確保できる。産業界は、専門知識を提供し、標準策定に参加することができる。
フィランソロピーもまた、独自の役割を担うことができる。効果的なAIガバナンスに必要な制度の多くは、市場のインセンティブや政府の命令にうまく適合しない。独立した評価能力、技術的能力構築プログラム、分野横断的な調整の仕組みは、長期的でミッション志向の投資に支えられて初めて生まれることが多い。
フィランソロピーは、ガバナンスのインフラが発展する条件を整える支援ができる。すなわち、実験への資金提供、独立した機関の支援、そして共通の目的を持ちながらも、ほとんど協働することのない主体同士をつなぐことである。
成功の測り方を見直す
AI対話は、国際社会がAIガバナンスの緊急性と既存の枠組みの不十分さの両方を認識した、稀有な瞬間を表している。AIガバナンスが最終的にインフラの課題であるならば、ジュネーブは、世界が合意に達した場所としてではなく、その合意に基づいて行動する能力の構築を始めた場所として記憶されるべきである。
