政府はAIシステムの購入をますます進めているが、社会的リスクと機会を考慮した責任ある調達の実践が求められている。
既存のリソースには、AI Now、英国政府、米国管理予算局などの組織による一般的なガイドライン、対象を絞った提言、規制イニシアチブが含まれる。
責任あるAI調達を支援するため、RFPテンプレート、契約条項、AI倫理成熟度を評価するためのスコアカードなどを含む、さらなるツールやリポジトリが必要とされている。
政府と公共行政機関は、ますます大きな規模でAIを購入している。例えば2022年に米国は支出した2017年よりAI関連契約に2.5多く支出した。こうした購入は非常に有益となり得るが、甚大な損害の潜在性を持つ高リスクシステムも含まれる。したがって、AIシステムを購入する公共行政機関は、社会的リスクと機会を考慮しつつ、AIを責任を持って調達するために必要な知識とリソースを備えている必要がある。既に有用なリソースが公開されているが、AIシステムとその応用の進化に対応するため、さらなるギャップを埋める余地がある。本記事では、既存の英語のリソースとその埋めるべきギャップを検討する。
ガイドラインと規制
公共行政機関がAIを調達する際に利用できる最も一般的なリソースの種類は、AIガイドラインである。ガイドラインは3つのカテゴリーに分類される。1）一般的な調達に関する助言、2）分野、ユースケース、主題、または視点に焦点を当てた対象別の提言、3）規制イニシアチブ。
一般的なガイドラインと提言には、以下の機関が作成したものが含まれる：AI Now、DataEthics、Hickok、Miller and Waters、Rubenstein、英国政府、および世界経済フォーラム。さらに米国は発表しており、管理予算局（OMB）がAI調達ガイドラインを公表する予定である。
対象別ガイドラインのうち、Prison Policy Initiativeは、刑務所でのタブレット購入に関するガイドラインを提供している。これらはAIを直接扱っていないが、技術倫理要件を組み込んでおり、AIに適用可能である。Coglianese & Lampmannは、企業秘密、プライバシーとサイバーセキュリティ、監査、市民参加に関する契約条項の追加を推奨している。Jacobs & Mulliganは、AIシステムの想定される影響を理解するために、調達プロセスで「測定モデリング（measurement modelling）」と呼ばれる手法を用いることを提案している。
規制イニシアチブもガイドラインを提供している。調達の実務担当者は、管轄外であっても、また法律として成立していなくても、これらのイニシアチブから指針を得ることができる。
世界経済フォーラムは人工知能のためのガードレールをどのように構築しているのか？
AI卓越性センターは、各分野のリーダーをつなぎ、急速に進化する人工知能と、それが経済や社会に及ぼす影響を理解することを支援している。AI導入に関わる機会、リスク、トレードオフについて、情報に基づいた対話を支援している。
信頼できる場や協働イニシアチブを通じて、センターはパートナーが共通理解を築き、AIのイノベーションと利用に関する責任ある取り組みで協力できるようにしている。
カナダでは、連邦機関は自動意思決定に関する指令を遵守しなければならず、これにはAI調達に関する影響評価、透明性、品質保証などの要件が含まれる。米国では、既存のAI調達規制には大統領令13960が含まれ、これは連邦機関に対し、公的信頼と信用を育む方法でAIを設計、開発、取得、利用することを求めており、プライバシー、公民権、市民的自由などのテーマを重視している。AI訓練法は、調達担当職員のためのAI研修予算の計上を義務付けている。最後に、メリーランド州、コネチカット州、およびワシントン州が、調達プロセスにAI倫理要件を導入する法案を提出した。
これらのガイドラインと規制イニシアチブは良いスタートである。しかし、実務担当者に適切なツールを提供するためには、まだ埋めるべきギャップが残されている。本記事の執筆者との対話において、実務担当者は、適切な支援がなければ、法律で義務付けられたとしても責任あるAI調達の実践は実施されないだろうと懸念を示した。同様の調達規制は過去にも同じ結果となった。
ツール
公開されている有用で関連性の高いツールは存在するが、その適切な導入、利用、改善、拡大により多くの注意を払う必要がある。フォード財団、Richardson、および世界経済フォーラムは、調達ライフサイクルの各段階で実務担当者が尋ねるべき質問のリストを作成している。アムステルダム市は、英語でAI調達契約テンプレートを作成しており、責任あるAI機能を組み込んでいる（Miller and Watersを参照。背景説明と議論のため）。カリフォルニア州サンノゼ市はサンノゼ（カリフォルニア州）は、いくつかのAI調達ツールを作成している。これには、審査プロセスのマップ（AIシステム購入時）と、AIベンダーから情報を収集するためのフォームが含まれる。最後に、カリフォルニア州アラメダ郡は、AIシステム向けのRFP（プライバシー要件を含む）を公開しており、テンプレートとして利用できる。
上記の取り組みは正しい方向への大きな努力を表しているものの、責任あるAI調達に取り組むためには、さらなる作業が必要である。例えば、実務担当者は完全なRFPテンプレート、既存契約に組み込める簡潔な条項、そして将来のベンダーのAI倫理成熟度を評価するためのスコアカードの必要性を訴えている。さらに、既存のツールでは、ベンダーにAI倫理関連情報の開示を求めることや、署名済み契約に明記されたAI倫理へのコミットメントであっても、その履行を追跡することの困難さなど、実務担当者が責任あるAI調達を試みる際に直面する課題には対応できていない。
リポジトリ
公共行政におけるAIの責任ある調達に関連するリポジトリを2種類確認した。一部のリポジトリはナレッジマネジメントを支援している。例えば、Gutierrez’s soft law databaseには、2001年から2019年までのAI調達に関連するソフトローの一覧が収録されている。このリポジトリに関する議論はこちらおよびこちらで確認できる。もう一つの関連するナレッジマネジメントリポジトリは、米国のPeriodic Table of Acquisition Innovationsで、米国連邦調達研究所（FAI）が作成したものである。
他のリポジトリは、公共行政が調達したAIに関する情報を記録している。オランダ、アムステルダム市、ヘルシンキ市、およびサンノゼ市（カリフォルニア州）は、市内のアルゴリズムの登録簿を整備している。さらに、Eurocitiesはスキーマ（都市で使用されるアルゴリズムを登録するための）を作成した。
責任あるAI調達に関するリソースをキュレーションするリポジトリは見つからなかった。しかし、リポジトリがなければ、実務担当者は関連リソースを見つけ、最適なものを選択するのに苦労する可能性がある。本調査では、AI調達に関わる多くの人々が実施することが難しい詳細な分析が必要であった。
主要な示唆
公共行政におけるAIの責任ある調達に関する現在のリソースは有用であるが、実務担当者が調達サイクル全体に対応できるよう、これらのツールをさらに発展させ、追加のリソースを構築することにさらなる注意を払う必要がある。新たなツールを開発する際には、実務担当者をより大きく関与させることが極めて重要である。調査したリソースの多くは、実務担当者との実質的な協議に言及しておらず、実務担当者が直面する課題への対応を怠っている。これらのギャップを埋めることは極めて重要な課題である。公共行政におけるAIの責任ある調達は、公共の安全を確保し、技術セクターがAIをより責任を持って開発するよう影響を与えるうえで不可欠である。
本記事は、Beth Schwanke と Hubert Halopé の貢献から大きな恩恵を受けている。Beth Schwanke博士は、ピッツバーグ大学サイバー法・政策・セキュリティ研究所のエグゼクティブ・ディレクターである。Hubert Halopéは、世界経済フォーラムの人工知能・機械学習リードである。