政府におけるAIは、単にプロセスを最適化するのではなく、人々に力を与えるように設計されなければならない。
真のデジタル主権とは、熟練したチーム、回復力のあるインフラ、説明責任のあるガバナンス、そして安全なデータ保管を備えていることを意味する。
若者は、公共サービスにおけるAIを責任あるものかつ変革的なものにし得る切迫感、創造性、市民としての想像力をもたらす。
テクノロジーは、市民と政府の関係を再構築しつつあり、公共サービスを、先回りして対応し、即応性があり、人を中心とした仕組みへと変革する機会を生み出している。
人工知能（AI）とデータは、政府が事後対応型の提供から、先読み型のモデルへと移行する一助となり得る。しかし、今夏ジュネーブでグローバル・シェイパーズ・コミュニティのハブ・リーダーとともに行われたワークショップで得られた知見は、若者の視点から見ると、この変革は責任と地域での価値創造を中核に据えなければならないことを浮き彫りにしている。
そうでなければ、AIは、人間への影響や社会的価値よりも、正確性や性能の誤った指標を優先することで、非効率を強化したりイノベーションを狭めたりするおそれがある。このような事態は、まさに人間が設計や意思決定の中心に置かれていない場合に生じる。
AIへの恒常的な依存を前提とした重要な公共システムを構築することはリスクがある。
世界的な傾向として、各国政府はすでにAI戦略の公表を進めており――『人工知能インデックス報告書2024』では、2016年から2023年にかけて、128か国の「人工知能」を含む法律のうち、32か国が少なくとも1件のAI関連法案を成立させたことが分かった。
しかし、多くの国には、成果を監視したりリスクを評価したりするための枠組みが欠けている。
OECDは、デジタル政府の導入が不均一に進んでいると警告している。多くの国は依然として相互運用性とガバナンス能力に苦慮しており、そのシステムはデータを効果的に共有する構造を欠いていることが多く、連携、効率、そしてシームレスな公共サービスの提供能力が制約されている。
若者の立場から見ると、切迫感は導入規模だけでなく、ガバナンスそのものを再構想する機会からも生じている。7月のワークショップでは、若い世代が透明性、包摂性、測定可能でプラスの影響を求めている時期に、AIが公共システムに導入されつつあることも明らかになった。
利点と課題の両立
政府におけるテクノロジーの潜在的な利点は多岐にわたる：官僚主義の削減、より迅速なアクセス（保健・社会サービスへの）、市民の懸念への対応力の向上、さらにはAIを活用して、より効果的な政策の立案、評価、実施を行うこと。
データ駆動型のシステムは、組織の記憶を保持し、意思決定に情報を提供し、サービスの成果を透明化することができる。しかし、これらの利点を引き出すには、政府がシステム優先ではなく、市民優先であることが求められる。
ドイツを例に取ると、デジタル医療プロジェクト（電子健康記録など）が導入され、患者が自身の健康データに直接アクセスできるようにすることで、十分な情報に基づく選択と、ケアへのより大きな管理力を得られるようにしている。しかし、その実施は断片化したガバナンスによって阻害されており、電子患者記録（ePA）システムは複雑で、十分に活用されていない状態にとどまっている。
さらに、基本的な統合された記録へのアクセスでさえ――個人のすべての健康データが一か所に保持されること――は依然として困難である。この課題はヨーロッパに限ったものではない。フィリピンでは、サイロ化したデータベースと断片化したオープンデータポータルが、各機関の効果的な相互運用を妨げている。
一方、ラテンアメリカでは、チリなどの国に、デジタル政府投資を追跡するための中央的な枠組みがなく、監督は各機関に分散しており、統合型の監視システムも存在しない。そのため、インフラだけでなく、ガバナンス、設計、説明責任が、システムをサービス利用者のために機能させる助けとなるだろう。
イノベーションのリスク
適切なイノベーション戦略を伴わない技術への過度な依存には、どのようなリスクがあるのか。
AIへの恒常的な依存を前提とした重要な公共システムを構築することはリスクを伴う。市民がサービスの中断、プライバシー侵害、権力の不均衡にさらされるおそれがあるためであり、公共サービスにおけるAIは、人による監視、説明責任、そして回復力を中心に設計する必要があることを浮き彫りにしている。
デジタル主権は、データの保管場所を中心に語られることが多いが、主権とはまた、熟練したチーム、回復力のあるインフラ、そして国家が公益のためにデータを活用することを可能にするガバナンスの枠組みを通じて能力を持つことも意味する。
若者のネットワークは、すでにイノベーションのための生きた実験室として機能している。
例えばオープンデータの公開は、市民にそれを有意義に活用するためのツールや読解力が欠けていれば、十分ではない。アクセス可能であれば、オープンデータは、地域社会が政府の行動を精査し、説明責任を促し、信頼を築くことを可能にする。しかし、情報を解釈し応用する能力がなければ、これらの利点は失われる。
EUのデータガバナンス法に基づくアプローチは、データ共有のための法的枠組みの確立は、地域の人材、信頼できる技術インフラ、そして十分な運営資金への投資と両立させなければならず、それによってデータが国境や分野を超えて真に利用可能になることを示している。
そうでなければ、主権は形式的なものにとどまり、政府は外部ベンダーへの依存を強めたり、統制が狭い権力の中心に集中したりすることになる。
信頼とガバナンス
セキュリティと回復力も同様に重要である。公共インフラは、サイバー攻撃に耐えられるように設計され、市民データを保護し、継続的に性能を測定する必要がある。これらの保護がなければ、市民はAIを活用した公共サービスを信頼することも、その恩恵を受けることもできないからである。
米国を拠点とするGovTechイニシアチブPropelは、公的扶助プログラムにおけるAIモデルを評価するためのツールを開発しており、継続的な測定の枠組みが、性能を監視し、偏りを検出し、AIによる意思決定が市民に公正かつ透明に資することを確保することによって、説明責任をいかに強化できるかを示している。
しかし、政府サービスとの市民の関わり方を大幅に変革するためには、AIの決定について明確な説明を提供し、アルゴリズムの公平性を監査し、監督を可能にすることによって、複雑なシステムを透明化しなければならない。
関連する事例としては、メキシコが生体認証によるCURP（人口登録固有番号、Clave Única de Registro de Población）を導入する取り組みがあり、指紋と虹彩のデータを統合デジタルID制度に組み込む予定である。これに対し、デジタル権利団体から重大な懸念が示されており、同団体は、この制度が大規模な監視や人権侵害の可能性につながりかねないと警告している。
明確なデータ保護措置の欠如と、機微な生体情報の集中管理は、包括的な安全策なしにAIシステムを導入することに伴うリスクを浮き彫りにしている。この事例は、公共部門におけるAI技術の設計と展開において、透明性、説明責任、そして市民参加が極めて重要であることを示している。
強固なセキュリティと説明責任の必要性に応えるには、AIシステムを市民にとって理解しやすく信頼できるものにするガバナンスの枠組みが求められる。透明性の高い設計、明確な監督の仕組み、そして包括的な参加により、複雑な公共技術が権力を集中させたり不平等を悪化させたりしないことが保証される。
市民優先のシステム
こうした基盤が整えば、政府はリスク軽減を超えて、アジャイルなアプローチ、パイロット事業、反復的な改革を積極的に試行できるようになる。これにより、若者や市民社会が、責任があり公共のニーズに応答的な解決策に貢献する余地が生まれる。すでに一部の政府は、より機動的なモデルを試し始めている。
スペインでは、Correos Labがパイロット資金供与と賞金制度を活用してGovTechソリューションの導入を加速させ、数か月以内に大規模な検証を行っている。これを実現するには、標準化された相互運用性のルール、中小企業が参加しやすい調達、そして制度改革につながる反復的な検証の道筋といった、実現を可能にする条件が必要である。
若者のネットワークは、すでにイノベーションのための生きた実験室として機能しており、若者を部門横断型チーム、研究手法、アクセラレーター、インキュベーターにおける共同設計者として位置づけることで、切迫感、創造性、そして責任あるテクノロジーへの献身をもたらしている。
大学、イノベーションセンター、スタートアップのエコシステムと連携することで、政府は若者の視点を、市民の想像力という再生可能な源泉として活用することができる。
AIは公共サービスの提供のあり方を再構築する。しかし、その変革が前向きなものとなるのは、市民が設計の中心にとどまり、パイロットが規模拡大への信頼できる道筋を持ち、そして主権がインフラの所有だけでなく、それを統治するために備わった能力をも含む場合に限られる。
