AIはすでに登場しており、私たちはそれを規制する必要があります。
しかし、多くの技術と同様に、AIは本質的に善でも悪でもないため、AIの規制は困難です。
AIの本質と急速な進化により、規制は継続的に進化し、その結果に焦点を当てる必要があり、それには絶え間ない警戒が求められます。
人工知能（AI）が人類を滅ぼす可能性は低いものの、産業、政府、教育、創造芸術の各分野ですでに社会的混乱を引き起こしています。「ディープフェイク」は、すでにいかがわしい政治メディアの責任とされています。AIはすでに登場しており、私たちはそれを規制する必要があります。しかし、多くの技術と同様に、AIは本質的に善でも悪でもないため、AIの規制は困難です。それは利用方法によります。
EUは最近、AIに関する規則を発表しました。この規則は、利用を階層に分類しています。許容できないほど高リスクで禁止される利用から、最小リスクで規制が緩やかな用途までを対象としています。これは有用で概念的にも分かりやすい枠組みですが、リスクレベルを判断することは容易ではありません。最善の規制は、AIツールそのものではなく、その利用者と利用方法に焦点を当てるべきです。私たちは、ナイフの規制にも同じ方法を適用しています。事前の規制だけでは不十分です。代わりに、AIの結果を継続的に検証する必要があります。
多くの従来の規制では、何が許可され、何が禁止されるかを事前に定めています。例えば、特定の工程で使用できる化学物質の量には上限があります。これらは利用者にとって理解しやすく、遵守もしやすいものです。しかし、AIの性質上、このような規制に頼ることはできません。AIは単なるブラックボックス技術、つまり外部から不透明な技術ではなく、その結果は作成者ですら予測できません。AIは学習に依存し、事前には知ることのできない「創発的な振る舞い」の一形態を生み出します。さらに複雑なことに、学習の過程も不確実であるため、学習データに基づくア・プリオリにバイアスのリスクが本質的に生じます。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか？
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを支援しています。AIの導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支援しています。
信頼できる場と協働イニシアチブを通じて、センターはパートナーが相互理解を深め、責任あるAIの技術革新と利用のアプローチについて共に取り組めるよう支援しています。
これらの課題に対応するには、少なくとも3つの原則に基づくAI規制が必要です。
1. トレーサビリティ
第一に、AIの応用と相互作用を対象とした、AIのトレーサビリティが確保されるべきです。企業が業務を外部委託している場合や、大規模なサプライチェーンを持つ場合でも、各階層は個別にも全体としても遵守しなければなりません。
AIが関与した融資プロセスで、ある人が不当に融資を拒否された場合、その結果の原因を把握できるべきです。トレーサビリティは、テスト可能性と関連しています。その結果は正しかったのか、という点です。
2. テスト可能性
テスト可能性は複雑な問題であり、継続的な警戒を必要とします。また、事前に定められたデータセットに対してテストすることはできません。もしそれが可能であれば、企業はシステムを操作できてしまいます。さらに、AIがテストシステムを操作することを懸念するのであれば、AIに対する第一の義務は、自らの行動について誠実に報告することであるべきです。すでに、AIシステムが嘘をつく方法を見つけ出す事例も存在します。これは、作成者や利用者からの嘘をつくようなプログラムや要求がないにもかかわらず、目標達成の成功率を高めるために行われています。
3. 責任
第三に、不正行為を抑止し、罰則を単なる事業コストとして扱うことを防ぐ責任の仕組みが必要です。AI規制が経済的に十分厳しいものであれば、利用者はAIの利用とその結果を重視するようになるでしょう。
これら3つの規制原則の一部は、すでに他の分野で部分的に対応されていますが、汎用的な規制の枠組みは、AIの速度、規模、不透明性に対応するように設計されていません。例えば、知的財産に関する法律は存在しますが、ほとんどのAIシステムは公開されたウェブ上のデータで学習されています。ウェブは表面上は公開されていますが、コンテンツの所有者は、AIシステムの学習にそれが使用されることを望まない場合があります。例えば、メディア企業は現在、この件についてAI企業を訴えています。トレーサビリティの一部として、入力データも対象とする規制が必要となる可能性があります。
アルゴリズムの規制は、AIを規制するための有用な出発点ですが、アルゴリズムを規制している国はごくわずかです。カナダは、ほとんどの国よりもこの点で優れています。カナダは、アルゴリズムの規制をAIにまで拡大し、影響に焦点を当て、「自動化の種類（完全または部分的）、判断の期間と可逆性、影響を受ける分野（例：権利、プライバシーと自律性、健康、経済的利益、環境）」を検討しています。
影響に焦点を当てること、すなわち事後的な規制は新しいものではありません。医薬品は承認の段階で規制されるとともに、その後も厳しく監視されています。同様に、アルゴリズムも、それがもたらす結果について精査の対象となっています――少なくとも、そうなるべきです。例えば、銀行が融資を拒否したり、福祉制度が単身の母親に対する給付を差別的に拒否したりしていないか？
規制だけでは、AIに起因する問題を完全に防ぐことはできません。そのため、失敗に対処できるようにAIシステムを設計する必要もあります。市民は、例えば融資拒否など、AIを通じて行われた措置に対して救済を求める手段を持たなければなりません。AIがなくても、融資を拒否された申請者に十分な理由が示されないことは少なくありません。このような力の不均衡を是正するには、消費者および市民の権利の改善など、より広範な規制が必要であり、それはAIの範囲を超える課題です。
批判する人々は、厳格な規制が新興産業の成長を阻害することを懸念しています。しかし、この懸念は根拠がないだけでなく、規制の欠如はむしろ不確実性と無制限のリスクを増大させます。責任の義務は、本質的に新たな規制や負担を意味するものではありません。私たちは、脅迫、詐欺、差別、著作権侵害などに対して、すでに責任を課しています。また、トレーサビリティとテスト可能性は、説明可能性を求めるものではないことに注意が必要です。説明可能性は、AIシステムにとって究極の目標ともいえるものですが、予見可能な将来においては負担が大きいものです。
AIを利用する企業も保護を求めています。従来の枠組みでは、特定の許可された活動に対して、技術企業に「セーフハーバー」が提供されてきました。例えば、インターネットサービスプロバイダーは、その利用者が自社のインターネットサービスを利用して法律に違反した場合でも、責任を負いません。例えば、オンラインのソーシャルプラットフォームを利用して違法な映画のコピーを販売するケースなどです。AI技術者もそのような保護を受けるべきですが、その条件として、違反が検出された場合には、事業者はそれに対処する義務を負います。これは、インターネットプラットフォーム上でホストされている違法コンテンツに対する削除要請が、今日行われているのと同様です。電子フロンティア財団の経験は、削除要請が誤りであったり、悪用されたりすることが多いことを示していますが、事後的な削除の原則は依然として価値があります。
銀行は私たちに「大きすぎて潰せない」という概念をもたらしました。AIが「修正できないほど組み込まれてしまう」（すべてを停止しない限り）という事態を招いてはなりません。プロセスにAIツールを組み込んでいる企業は、違反があった場合に、広範なシステムを危険にさらすことなく、該当する構成要素を停止または置き換えられるよう、モジュール化を実証的に行うべきです。
AIの規制には、インターネットの規制と同様に、主権、管轄権、ドメインの問題を含む他の課題もあります。規制の透明性と調和は、ある程度は役立つことができます。AIが非常に急速に進化していることは課題となる可能性がありますが、それはまた、規制も進化し続けなければならないこと、そして絶え間ない警戒を受け入れる必要があることを私たちに気づかせてくれます。
