AI対応システムが差別や偏見を助長し、助長し、およびプライバシーを侵害する脅威への懸念が高まるなか、カリフォルニア州は悪影響を抑制することを目的とした複数の法案を提出している。その中心は、顔認識システムなど特定のAI対応技術による悪影響の緩和に関する法案である。2019年5月14日、サンフランシスコは市の機関および法執行機関による顔認識技術の使用を禁止する、米国初の主要都市となった。顔認識技術の使用を禁止する措置を取った。2か月後、隣接するにオークランド市も同様の規制を導入した。
これらは市レベルの法律かもしれないが、その成立は州および連邦の法制化に影響を与えている。カリフォルニア州では、 「ボディカメラ説明責任法」は警察のボディカメラにおける顔認識の使用を禁止することを目指しており、一方で別の法案は企業に顔認識技術の使用を公表することを義務付けるものである。連邦レベルでは、4本の法案が現在提案されており、特に法執行における本技術の使用を制限することを目指している。
EUの画期的な一般データ保護規則（GDPR）の施行を受け、カリフォルニア州は米国初の国内データプライバシー法を成立させた。カリフォルニア州消費者プライバシー法（CCPA）は2018年に成立し、2020年1月に施行される予定である。CCPAは、消費者が企業に対して保有する自身のデータの開示を求め、データの削除を請求し、データの第三者への販売を制限し、データ漏えいについて訴訟を起こす権利を与えている。この法律は連邦レベルにも影響を及ぼしており、連邦のデータプライバシー法の策定を促している。これらのデータプライバシー法は、AIのようなデータに依存する分野に特に関連している。
選挙の公正性
AI対応のボットやディープフェイクが選挙の公正性に深刻な脅威をもたらすことに対応して、カリフォルニア州政府は、連邦および国際的な取り組みに影響を与えてきた先進的な法案を推し進めてきた。2018年に成立した「ボット開示法」は、カリフォルニア州において、開示なしに商取引や選挙での投票に影響を与えるためにボットを使用することを違法としている。これには他州や他国の企業が展開するボットも含まれ、これらの企業は、カリフォルニア州の住民向けに個別の基準を策定するか、効率性を維持するために管轄区域をまたいで戦略を調和させることが求められる。連邦レベルでは、「ボット開示および説明責任法」には、カリフォルニア州で提案された多くの同様の戦略が含まれている。カリフォルニア州の「反ディープフェイク法案」は、選挙前の悪意ある政治的ディープフェイクの拡散と影響の緩和を目指しており、連邦の「ディープフェイク説明責任法」も同様の目的を掲げている。
リスクと課題
カリフォルニア州は責任あるAIガバナンス戦略の実施を主導しているかもしれないが、練り上げられていない法律、特に連邦レベルや国際レベルで同様の戦略に影響を与える法律は、益よりも害をもたらすだろう。例えば「ボット開示法」を挙げると、一部の論者は、明確さの欠如を非難している。同法では、何が「ボット」と判断されるか、また判断されないかが不明確であり、悪意あるボットの影響を特定し抑制するための当事者、特にプラットフォームの役割と責任についても同様である。これにより同法の実施可能性と影響力が弱まっている。カリフォルニア州の法律を模倣した連邦の取り組みは、説明責任と国民の信頼をさらに損なうだけに終わるだろう。
また、有益な法律が不必要に政治化されるリスクもある。「カリフォルニア効果」に対する連邦からの反発が強まっており、その例として、最近の取り組みがある。これはカリフォルニア州が連邦のガイドラインより厳しい排出基準を実施する権限を取り消そうとするものである。連邦の取り組みは、責任あるAIガバナンスの国内および国際基準に対する同州の影響力を抑制しようとする可能性がある。これは、CCPAを先取りして無効化しようとする連邦の取り組みにすでに見られている。
正しく対処する
カリフォルニア州は、差別や偏見の監視からプライバシーと選挙の公正性の保護まで、幅広くAI法制を急速に推進している。カリフォルニア州の先進的なAI法制は、すでに連邦の取り組みに顕著な影響を与えており、Google、Facebook、OpenAIを含むカリフォルニア拠点のAI企業が慣行を変えれば、世界的な影響力を持つ可能性が高い。同州には、AIシステムが安全かつ責任ある方法で開発・展開されることを保証する効果的な基準と監督を確立する機会と責務がある。カリフォルニア州は、国内および世界に向けて責任あるAIガバナンスの指針を示すことができるが、手遅れになる前に、悪影響を特定し緩和するための適切なデューデリジェンスを実施するよう注意が必要である。
