先週、新たに発表された英国政府のデータ倫理・イノベーションセンターは、一般向けの意見募集を開始した。同センターは、民間部門によるデータ利用や技術開発だけでなく、公共部門における人工知能（AI）の利用についても指針を設けるよう求めた。これには、「最も支援を必要とする人々に公共サービスを的確に届け、公共資源をより効果的に配分する」ための活用も含まれる。
公共サービスの提供や政策立案に向けてAI能力を高めようとしているのは英国だけではない。最も「AI導入の準備が整った政府は、欧州、オーストラレーシア、南北アメリカ、中東に広く分布しているといえる。各国政府はテクノロジー分野との強固な関係に依存しており、テクノロジー大手がAIビジネスの機会の世界的な広がりを認識し、政府が外部の技術的知見に頼り続けるなか、この傾向はさらに強まる可能性が高い。政府はまた、公共部門向けAIソリューションの提供者候補としてスタートアップにも目を向け始めている。政府支援の「GovTech（行政テクノロジー）」基金やコンテストが、この分野の成長を後押ししている。
官民によるAI連携には多くの潜在的な利点がある一方で、両者の関係は出発点から複雑だ。政府の第一の責務は市民に対するものだ。これに対して民間企業の第一の責任は株主に対するものだ。この優先事項は衝突することがある。これは新しい問題ではないが、世界のGovTech市場が兆ドル規模の企業価値を目指すなかで、さらに深刻化する可能性がある。市民のデータを誰が保護し、管理するのか。そして、そこから得られる知見の経済的価値を誰が獲得するのか。こうした問いへの答えは政府の正当性にとって極めて重要だ。特に、官民連携が歴史的に汚職や縁故資本主義の温床として二重の役割を果たしてきた地域ではなおさらである。
世界の市民中心の政府は、状況を理解し、要求を明確に伝えられる発注者となるため、組織内に十分な技術的知識を備えていることを確かめなければならない。政府には今、技術分野と政策立案の両面における異なる言語、文化、優先事項、目標の間、またテクノロジー企業と政府の間を取り持つ能力を持つ、熟練した「翻訳者」がこれまで以上に必要だ。
世界各地で政治文化や導入のペースが異なるなか、テクノロジー企業が政府向けAIの開発にますます関与するようになっている。そこで、各国の政策立案者や専門家からなるパネルに、「政府向けAIの開発において、民間部門はどのような役割を担い、その役割にはどのような限界があるべきか」と尋ねた。
タニヤ・ファイラー博士、ケンブリッジ大学ベネット公共政策研究所
「大規模組織や政府は、こうした破壊的変化に対処する備えが十分にできていない。」
ここ数か月、世界各国の多くの政府がデジタル戦略を発表または改定し、しばしばAIに関する章を加えてきた。フランス、英国、米国、ロシア、中国はいずれも、この分野で主導的な役割を担う明確な意向を示しているが、そのアプローチは大きく異なることが多い。この事例が従来の政策立案プロセスと異なるのは、政府が破壊的技術とほとんど共通点を持たず、とりわけ分散型技術とは縁遠いことだ。主要な開発の大半がオープンソース（GitHubやTensorFlow上）であることも、政府が対処しなければならない複雑さの一つにすぎない。大規模組織や政府は、こうした破壊的変化に対処する備えが十分にできていない。DARPAとごく限られた例外を除けば、国家が主導する破壊的プロジェクトは失敗に終わる傾向があった。
では、生産性向上の恩恵を得るために、国家はデジタル技術やAIをどのように活用すべきだろうか。第一に、実施の細部ではなく原則に重点を置くべきだ。消費者ではなく市民を尊重し、市民に公共サービスを提供しなければならない。第二に、プロジェクト管理や運用管理の専門性を高めるため、民間部門への委託を積極的に進めるべきだ。第三に、公共サービスの委譲には強力な規制を設け、その規制を執行しなければならない。可能であれば、GDPRのような域外適用の効力を持つ地域協定を通じて執行すべきだ。これを実行すれば、政府は21世紀にふさわしい機関となり得る。そうでなければ、時代遅れとなり、自らがほとんど管理できない民間主体に徐々に置き換えられるおそれがある。
ジル・バビネは、欧州委員会におけるフランスのデジタル担当特使である。
「民間部門との今後の関係は、従順に従うものではなく、真のパートナーシップであるべきだ。」
公共部門が自らのデジタルの将来を主導すべき時が来た。1980年代以降、歴代の政府はデジタルイノベーションを民間部門に頼ってきた。その結果、柔軟性に欠けて費用のかさむIT契約、使い勝手の悪さ、組織内の専門知識の低下を招いた。2010年代以降、政府デジタルサービス（GDS）は中央政府についてこの傾向を部分的に覆したが、地方政府の広範な領域や国民保健サービス（NHS）は、依然として少数の供給業者に依存していた。
政府のAIグランドチャレンジは、イノベーションと経済成長を推進できるのは民間部門だけだという考え方を温存するおそれがある。政府の役割は、投資を促し、デジタルインフラを多少改善することに限られているように見える。しかし、経済学者のマリアナ・マッツカートが示したように、国家による投資や研究は目覚ましい技術革新をもたらしてきた。GPS、タッチスクリーン、検索アルゴリズム、インターネットは、いずれも国家の後押しに大きく支えられている。
AIの未来において国家は主導的な役割を担うべきであり、民間部門との今後の関係は、従順に従うものではなく真のパートナーシップであるべきだ。これを後押しする政策変更は三つある。第一に、政府の中核にAI能力を構築すべきだ。AI研究者に資金を提供して政府機関に派遣し、上級政策立案者にはAI研修を実施すべきである。第二に、研究開発への投資や資金提供を通じて、国家の投資によってAIスタートアップが救急医療やソーシャルケアなど、公共サービスの中核的課題に取り組むよう促すべきだ。公共サービスはすべての人を対象とするため、民間部門の「リフト・アンド・シフト」型モデルが有効なのは一定の範囲に限られる。多くの場合、「対応コストの低い」取引に狭く焦点を当て、費用のかさむ「例外的ケース」は国家に委ねることになる。新設された人工知能局は、各省庁からの「ユースケース」の要望を調整できるだろう。最後に、国家はデジタル資産を最大限に活用すべきだ。公共サービスから得られた、機械学習に適した豊富なデータセットにAI企業が無料でアクセスできるようにする理由はない。国家は、重要な支援を提供するスタートアップの株式を取得することを検討すべきだ。たとえば、オックスフォード大学病院は最近、ドレイソン・テクノロジーズの株式500万ポンド相当を取得した。
政府が倫理的なAIを優先するのは適切であり、国家と民間部門の関係を定める枠組みが必要だ。データの保護と管理に関する課題に対処しなければならない。市民は、自分のデータが使われることで公共の利益がもたらされると知れば、その利用に賛成する可能性が高まる。たとえば、自分や家族が患う可能性のある病気の治療法が見つかる場合などだ。
アントニオ・ワイスは、英国の公共サービスにデジタル変革の助言を行う専門コンサルティング会社2020 Deliveryのディレクターである。2020 Deliveryは、6月21日に「ロボットが英国の公共サービスを担うようになるのはいつか？」を共同開催する。
「メキシコの新政府は、同国の経済的潜在力を高め、包摂的な社会開発を促進できる包括的な国家AI政策を策定しなければならない。」
貧困と格差の縮小に向け、AIが社会に変革をもたらす可能性を証明するのに、グローバル・サウスほど適した場所はない。しかし、これらの地域の国や地方の政府は、AIへの投資と、倫理的制約を考慮し、恩恵がすべての人に行き渡るようにする包括的なAI政策の策定が急務であることを理解しなければならない。
この分野の変革を主導する新興経済国の一つがメキシコだ。同国政府はここ数年、効果的なAI政策の基盤となるオープンデータ政策とデジタルインフラの整備で大きく前進した。また最近、2018年に向けた国家AI戦略を発表し、AI戦略を持つ世界で最初の10か国の一つとなった。市民社会、産業界、学術界も、最近設立されたAI連合「AI2030」を通じて、分野横断的な連携の基盤を築き、重要な変化を推進している。その目的は、倫理と各部門の共同責任を中核要素とする、AIに関する長期的な国家計画の策定を支援することだ。さらに、ハリスコ州やメキシコシティの政府など地方政府も、議論と取り組みを前進させ、地域のデータ・AIエコシステムの成長を加速させている。
メキシコが正しい方向へ進んでいることは間違いない。それでも、AIによる真の社会的影響と包摂的な経済効果を確かなものにするには、多くの課題に取り組まなければならない。2018年7月に選出されるメキシコの新政府は、同国の経済的潜在力を高め、包摂的な社会開発を促進できる包括的な国家AI政策を策定する必要がある。重要な取り組みは数多くあるが、デジタル技能の格差解消に向けた努力を続け、デジタル課題を優先し、デジタルインフラに投資し、質の高いオープンデータの公開を継続的に確保しなければならない。また、学術界と産業界の連携を促し、最も可能性の高い分野を特定し、優れた製品の商業化を支援する国家AIセンターを設立する必要がある。国家および地方の各レベルでAIを適切に活用すれば、所得が最も低い市民の80％に向けたメキシコの公共サービスの改善に役立つ重要な手段となり得る。
コンスタンサ・ゴメス・モントは『メキシコの国家AI戦略に向けて』の共著者（ダウンロード先：www.cminds.co/ai）であり、C Mindsの創設者兼CEOである。
「この分野では専門家への需要が非常に高いため、政府の機械学習システムの多く、あるいは大半は、民間部門が構築・保守することになるだろう。」
政府で「人工知能」を使い始めるにあたり、明白な事実を忘れてはならない。統治とは本質的に規範に関わる営みである。政府が行う多くの事柄には、「客観的に正しい」方法など存在しない。もちろん、これは昔から変わらない。新しいのは、アルゴリズムを使うと、こうした価値判断をコードに変換せざるを得ないことだ。
この分野では専門家への需要が非常に高いため、政府の機械学習システムの多く、あるいは大半は、民間部門が構築・保守することになるだろう。しかし、企業がAIシステムの構築時にこうした価値判断をどのようにコード化するかを監督し、管理する体制は整っていない。そもそも価値判断が行われていることへの認識さえ、限られている場合がある。
政府は責任を引き受け、機械学習システムの構築における規範的な選択が、恣意的で説明責任を欠くものではなく、意識的かつ正当な選択を反映するようにしなければならない。
再犯リスクを予測するアルゴリズム「COMPAS」を考えてみよう。このアルゴリズムは、被告人が再犯する可能性を示すスコアを算出し、裁判官の判断材料として使われる。開発企業は、特定の公平性の考え方をアルゴリズムに組み込み、その結果、黒人と白人の被告人で真陽性率は同じになった。しかし、偽陽性率は黒人の被告人で2倍高かった。
政府におけるAIの利用に関する調査の一環として、このアルゴリズムを作成したデータサイエンティストと、その結果に依拠する人々の双方に話を聞いた。COMPASの問題は、この特定の、おそらく問題のある公平性の考え方が組み込まれていたことだけではない。こうした選択は避けられず、保健訪問員、ソーシャルワーカー、教師、公務員も常に同様の判断を下している。
問題は、アルゴリズムの結果に依拠する裁判官や仮釈放担当官が、この特定の公平性の考え方が用いられていることをほとんど認識していなかった点にある。また、アルゴリズムを構築した民間部門のデータサイエンティストも、特定の規範的な見解をアルゴリズムに組み込んでいることを自覚していなかった。
人間の意思決定については、時間をかけ、試行錯誤を重ねながら、判断の背後にある価値観を精査し、不服を申し立て、判断を変更できる統治の仕組みを築いてきた。こうした仕組みには不完全な点があるとしても、少なくとも存在している。
政府の「人工知能」システムにも、同じ仕組みが必要だ。こうした統制を築き、それが市民に正当なものと受け止められる方法で実施しなければ、政府におけるAIの大きな可能性は実現しない。
ダニー・バークリは、Centre for Public Impactのプログラムディレクターである。
