ソーシャルメディアとAIの影響に対する不安が高まる中、必要な水準の規制を提供するために行動できるのは政府だけである。
核兵器のような過去の技術革新は、責任あるガバナンスの導入が遅れることの危険性を示している。
公的規制は過剰な介入と結び付けられがちだが、イノベーションは明確なルールによって方向づけられれば発展し得る。
オーストラリアがソーシャルメディアの利用を禁止した決定は、16歳未満の全員によるその利用に対する政府の過剰介入の一例なのか、それともデジタル時代において責任ある指導者に求められるものの早期の兆候なのか？オーストラリアの動きを受けて、他の政府も同様の制限について議論を始めており、活発な公的議論を巻き起こしている。これらの動きを総合すると、市場主導のデジタルプラットフォームが若者の人生をどのように形作っているかに対する不安が高まっていることがうかがえる。
その不安は政策立案者にとどまらず、家庭やコミュニティにも広がっている。米国マサチューセッツ州ブルックラインでは、保護者たちがBrookline Kids Unpluggedを結成し、子どもたちに画面から離れることを促している。デジタルプラットフォームが子ども時代をどのように変えつつあるかに対する不安の高まりを反映している。
差し迫ったリスクの多くは、すでによく記録されている。UNICEFは報告している多くの地域で、子どもたちが前例のない割合で有害なオンラインコンテンツにさらされており、アフリカと東南アジアでは5人に1人がオンライン上の何らかの性的被害を経験している。女性と少女にとっては、状況はさらに憂慮すべきものとなっている。ディープフェイクコンテンツの大規模データセットの分析ではほぼすべての性的に露骨なディープフェイク動画が同意なしに作成されており、標的となった人物の約99%が女性であることが分かっている。現在利用可能なディープフェイクツールの3つに1つは、ユーザーが性的に露骨なコンテンツを作成することを可能にしている。これらの結果は偶然ではなく、安全性よりも成長、新奇性、規模を優先する設計上の選択を反映している。
守護者としての政府
この現実は、公共の利益のためにデジタルイノベーションをどのように統治すべきかという中心的な問いを提起している。一つの答えはすでに明らかである。人間の尊厳と安全を守る責任を、産業界だけに委ねてはならない。政府は常に、法の支配を維持し、市民を危害から守る義務を負ってきた。その責任を、成長と利益によって動機づけられ、社会的弱者の保護を中核的な目的としない民間主体に外部委託してはならない。
AI産業はまだ初期段階にあり、政府がその軌道を形作るための、狭いながらも重要な機会を与えている。歴史は、社会が強力な技術に対して、損害がすでに生じた後にようやく対応することが多いことを示している。ニック・ボストロムは『The Vulnerable World Hypothesis』でこの危険性を捉えており、ある種の技術は非常に強力になり、単一の悪用が取り返しのつかない害をもたらし得ると主張している。核兵器は最も明確な例である。核兵器を統制するための本格的な国際的努力は、第二次世界大戦末期の広島と長崎への原爆投下の後になってようやく始まった。最悪の事態が起きた後に対応するというこのパターンを、AIにおいて繰り返す余裕はない。一部のリスクは、自身の「広島」が起きるのを待つには単に大きすぎる。
責任あるリーダーシップの初期の兆候はすでに見られる。国際レベルでは、欧州連合は、AIシステムの開発と展開において透明性、説明責任、リスク管理に関するより明確な期待を設定し始めている。米国では、AIガバナンスはパッチワーク的な形で形作られつつあり、州法、連邦機関のガイダンス、自主的基準が組み合わさっている。いくつかの州では、ディープフェイク、AIの透明性、アルゴリズムによる差別などの問題を扱う法律を導入している。カリフォルニア州は、例えば、コンテンツがAI生成である場合に開示を義務付ける措置や、雇用などの分野における自動意思決定システムの差別的な利用を制限する措置を可決している。その他の州では、選挙や嫌がらせに使われるディープフェイクを含む、欺瞞的なAI生成メディアを対象とする法律を採択している。
マサチューセッツ州は、教師向けのAIリテラシーに、Project Leadを通じて投資している。学校が、これらのツールが教室に導入される中で、機会とリスクの両方を適切に見極められるよう支援している。地域レベルでは、地元の団体がハッカソンを活用し、AIの前向きな応用を探る一方で、責任ある開発を促している。研究界と政策界全体では、バイアス軽減と安全基準に関する初期の取り組みが収束し始めており、他の地域が適応できるひな形を提供している。この共通の約束を具体的な基準へと転換するには、危害が生じる時点での具体的で強制力のある介入が必要となるだろう。
そのような介入の一つは、デジタルプラットフォームに対し、電子透かしをAI生成コンテンツに、自社システム上で作成されたものについて、合成メディアを識別・追跡可能にする形で付与することを義務付けることである。そのようなシステムは、コンテンツがAIによって生成または実質的に改変された場合にそれを明確に示し、その出自に関する情報を保持すべきである。企業は、利用者が透かしを除去する方法を見つけると主張することが多い。このリスクは主張を弱めるべきではなく、基礎となるコンテンツを目に見えて歪めることなく除去するのが難しい、より堅牢で永続的な技術的マーカーを開発する努力を強めるべきである。作成と流通の段階で責任を課すことで、危害が生じた場所に直接対処できる。
過剰な介入か、それとも注意義務か？
国家の関与を強めることに対する批判者は、いくつかの重要な異論を提起している。政府の介入は過剰介入のリスクがあり、個人の自由と自律性を侵害すると主張する者もいる。技術的な解決策が法的な解決策よりも望ましいと主張する者、危害の証拠は決定的ではなく、相関関係は因果関係を意味しないと主張する者もいる。さらに、年齢に基づく制限は効果がない、または容易に回避される、規制はイノベーションを阻害する、そして子どものデジタル生活に関する決定は国家ではなく保護者に委ねられるべきだという実務的な懸念もある。
これらの懸念は真剣に検討されるべきである。しかし、そのいずれも、何もしないことを正当化するものではない。完全な証拠が存在しないことは、特に危害が子どもや女性に不均衡に影響する場合、信頼でき拡大しつつあるリスクが存在することを否定するものではない。これらのシステムを設計する同じ企業が自らの説明責任の限界も設定している場合、技術的な安全策は必要ではあるが不十分である。保護者の責任は重要であるが、プラットフォームが大規模な関与を最大化するよう設計されている場合、それは公的基準の代わりとはなり得ない。イノベーションは規制の空白の中ではなく、明確なルールが信頼、安全、そして公共の正当性を守る環境においてこそ発展する。高リスク分野では、確定的な証拠や完全な遵守を待ってから行動することは、歴史的に手遅れを意味してきた。
AI時代における最も深刻な課題は、技術的なものではないかもしれない。それは倫理的なものである。ハーバード大学で最近開催されたイベントで、ある講演者は、AI時代における真のブレークスルーは、人間が尊厳と主体性を守る能力になるだろうと示唆した。この洞察は、子どもについて考える際に特に切実である。最も身近な仲間がボットである子どもにとって、それは何を意味するのか？アルゴリズムが慰めや承認の源になったとき、感情の発達はどう変わるのか？現実の体験と合成された体験が曖昧になったとき、アイデンティティはどうなるのか？
これらの問いは、いかなる技術企業の範囲をはるかに超えるものである。それらは公共政策、教育、心理学、そして長期的な人間の発達に関する問いである。何よりも、それらは国家の責任に関する問いである。
フォーラムがリーダーのAIの理解と責任あるイノベーションに向けた協働をどのように支援しているか
Centre for AI Excellenceは、業界横断的にリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解することを支援している。AIの導入に関連する機会、リスク、トレードオフについての情報に基づく対話を支援している。
信頼できる場と協働的な取り組みを通じて、センターはパートナーが共通理解を構築し、責任あるAIのイノベーションと利用に向けたアプローチについて共に取り組めるようにしている。
イノベーションはガバナンスの低下を必要とするものではない。技術変化の規模と速度に見合ったガバナンスを必要としている。AI産業はまだ初期段階にあり、今この時点は、物事を違ったやり方で進める稀な機会を提供している。問題はもはや政府が行動できるかどうかではない。政府が行動するかどうかである。
