人工知能は2024年も急速に進歩し続けています。
政策立案者も関心を高めていますが、今年はAIガバナンスで大きな前進が見られるでしょうか。
業界の専門家3名が、世界経済フォーラムのラジオ・ダボス・ポッドキャストの最新エピソードで見解を語りました。
2023年が世界が生成AIに慣れ親しんだ年だったとすれば、2024年は各国政府がそのガバナンスに本格的に取り組む年となるのでしょうか。
これは、世界経済フォーラムのポッドキャスト「ラジオ・ダボス」の最新エピソードでゲストに投げかけられた問いです。以下の記事は、ダボス会議2024で収録された次の人物との対話に基づいています。
アレクサンドラ・リーブ・ギヴンズ氏（非営利団体Center for Democracy & Technology CEO）；
アイダン・ゴメス氏（企業向けAI企業Cohere共同創業者兼CEO）；
そしてアンナ・マカンジュ氏（ChatGPTを含むAI製品を開発するOpenAIのグローバル政策担当副社長）。
アレクサンドラ・リーブ・ギヴンズ氏（非営利団体Center for Democracy & Technology CEO）；アイダン・ゴメス氏（企業向けAI企業Cohere共同創業者兼CEO）；そしてアンナ・マカンジュ氏（ChatGPTを含むAI製品を開発するOpenAIのグローバル政策担当副社長）。
以下は、彼らの見解の一部です。対話全体は、ポッドキャストでお聴きいただけます。
AIガバナンスへの動き
スタンフォード大学のAIインデックスによると、政策立案者のAIへの関心は高まっています。127か国において、人工知能に言及する法律が成立した件数は法律として成立しており、2016年の1件から2022年には37件に増加しました。また欧州連合（EU）は、「世界初の包括的なAI法」と位置づけるAI法の準備を進めています。
Cohereのアイダン・ゴメス氏は、ガバナンスが必要であることに同意しつつも、「そこに至る方法が極めて重要だ」と強調しています。
「言語のような水平的な技術を規制するのは難しい。それはあらゆる垂直分野、あらゆる産業に影響を及ぼします。人が2人以上いるところでは、必ず言語が交わされているのです。
「規制は垂直的なレイヤーで行い、既存の政策立案者や規制当局が、生成AIとその専門分野への影響について理解を深められるよう支援すべきです。そうすることで、各分野におけるリスクの軽減に役立つでしょう。」
同氏はさらに、世界的な規制については国際的な合意と調整が必要だと付け加えています。また、いかなる規制も、特に中小企業のイノベーションを阻害するのではなく、それを後押しするものであるべきだとしています。
「AIは非常に強力で影響力の大きい技術であり、だからこそ弱い立場の人々を守らなければならないと考えています。新しいアイデアが必要です。新しい世代の思想家が、構築し、貢献していく必要があります。そのため、それは規制当局にとって最優先事項であるべきです。」
規制を「行動の段階」へ
しかし、AIが進歩を続けるにつれ、その技術が悪用される可能性も高まっています。そして2024年には、世界で20億人以上の有権者が投票所に向かう予定であり、偽情報やディープフェイクなど、民主的な プロセスを混乱させるおそれのあるリスクへの注目が高まっています。
多くの大手AI企業が「2024年選挙におけるAIの欺瞞的利用への対抗に関する技術協定」に署名しています。これは、政治候補者の偽の画像、動画、音声に対抗するための一連の公約です。
しかしCenter for Democracy & Technologyのアレクサンドラ・リーブ・ギヴンズ氏によれば、ディープフェイクへの対応は、目前の課題の一部に過ぎません。長期的には、民主主義の存続において経済格差が果たす役割を考慮することが重要になると同氏は述べています。
「AIは、雇用の喪失だけでなく」と同氏は続けます。「融資を受けられる人の判断、採用者の選定、公的給付の承認可否など、人々に関する意思決定がどのように行われるかという問題も提起します。
「AIはそうしたあらゆるシステムに浸透しつつあり、政策立案者も企業も、これに真剣に注意を払う必要があります。」
企業、政府、市民社会は、こうした課題への対応をすでに議論しています。ギヴンズ氏にとって2024年は、関係者が「行動の段階に移る」べき年です。
「私たちは、高次元の議論から、実際に法律が制定され、政策が採択され、企業が新たな設計を実装する段階へと進まなければなりません。
「2023年における大きな対立点は、長期的リスクに注目すべきか、短期的リスクに注目すべきかという点でした。今では成熟した段階に到達し、人々が両方を同時に行う必要があり、またそれが可能だと理解していると考えたいです。」
世界経済フォーラムは、人工知能のためのガードレールをどのように構築していますか？
AI卓越センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に及ぼす影響を理解することを支援しています。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づく対話を支えています。
信頼できる場や協働的な取り組みを通じて、同センターはパートナーが共通理解を構築し、責任あるAIの革新と利用のアプローチに向けて連携することを可能にしています。
共通の対話の場をつくる
OpenAIのアンナ・マカンジュ氏は、AIに関する「破局的リスク」について国際的な合意を形成すると同時に、企業内の自主規制も推進すべきだと主張しています。
レッドチーミングは、業界で一般的に行われている手法だと同氏は述べています。これは、ソフトウェア開発やサイバーセキュリティにおいて、リスクを分析し、新しいシステムの有害な機能を評価するために用いられるプロセスです。
「これは、当社のモデルについて、差し迫ったリスクがどのようなものかを理解できるようにするために実施してきたことです。どのように悪用されうるのか。そのリスクをどう軽減できるのか。」
安全に関する知見や専門性を共有するため、大手AI企業4社が「フロンティア・モデル・フォーラム」を設立しました。このフォーラムを通じて、Anthropic、Google、Microsoft、Open AIは、AIの安全性に関する研究を推進し、責任あるAI開発を確実にするため、官民の連携を築くことを約束しています。
「それは、共通の実践の枠組みを特定することなのです」とマカンジュ氏は述べ、この取り組みはどこに閾値を設定すべきかを特定することを通じて、規制にも役立つと付け加えています。「結局のところ、これらのモデルを構築している企業が、そのモデルについて最も詳しいのです。彼らは、あらゆる側面について最も細かな理解を持っています。そして、企業に自主規制を任せるべきだとは思いません。しかし、この対話を行い、実際に強固な規制を整えることは必要だと考えています。」
世界経済フォーラムのAIガバナンス・アライアンスは、業界のリーダー、政府、学術機関、市民社会組織が集まる場を提供し、生成AIに関する課題について率直に議論し、責任あるAIシステムの設計と提供を確実にすることを支援しています。
