2023年3月、AI業界の3万3000人以上が未来生命研究所の公開書簡に署名し、「GPT-4より強力なAIシステムの訓練を、すべてのAI研究所が直ちに少なくとも6か月間停止すること」を求めた。
生成AIに対する大きな懸念を主流の議論に持ち込むことが狙いであり、その狙いは達成された。
AIが善のためにのみ利用されるよう対策が講じられているが、その結果として生まれるAI規制が十分かどうかについては懸念がある。
2023年3月、AIの設計・開発・利用に関わる3万3000人以上の個人が、未来生命研究所の公開書簡に署名し、「GPT-4より強力なAIシステムの訓練を、すべてのAI研究所が直ちに少なくとも6か月間停止すること」を求めた。これが実現すると予想されていたわけではないが、生成AIに対する大きな懸念を主流の議論に持ち込むという狙いは達成された。7月には、ホワイトハウスがAI規制に向けた自主的コミットメントの枠組みを発表した。米国の政策立案者が注目していることは明らかだ。これらの保護措置の中核は、「安全性、セキュリティ、信頼性」を促進するという原則である。7社の有力AI企業が同意している――Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI。
各社は次の点で合意した。公開前のAIシステムに対する社内外の独立したセキュリティテストの実施、ベストプラクティスの共有、サイバーセキュリティへの投資、生成AIコンテンツへの電子透かしの付与、機能と限界の公表、そしてバイアスや偽情報などの社会的リスクの軽減への投資。
世界経済フォーラムは、人工知能のガードレールをどのように構築しているのか？
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを支援している。AIの導入に関わる機会、リスク、トレードオフについて、十分な情報に基づく対話を支援する。
信頼できる場と共同イニシアチブを通じて、センターはパートナーが共通理解を構築し、AIのイノベーションと利用に関する責任あるアプローチで協働できるようにしている。
前向きな示唆
この発表は、AI開発が社会の基盤を損なうべきではないという明確なメッセージを市場に送るものである。市民社会団体、主要なAI専門家、そして一部のAI企業が規制の必要性を強調してきた要求にも応えている。AI規制に関する今後の大統領令と法律を明らかにしている。最後に、いくつかの国との二国間協議、国連、G7、そしてインド主導のグローバル・パートナーシップ・オン・AIを含め、国際レベルでの継続的な協議にも言及している。これにより、最近および今後予定されている国際サミットで有意義な成果が得られる道が開かれた。その中には、今後のG20サミットが今週インドで、そして英国でのAI安全サミットが11月に開催される。
しかし、私たちは現状に満足していてよいのだろうか？ ホワイトハウスの発表は、揺るぎない実行を求めている。理念を見事に宣言するだけで、現状に大きな変化をもたらせないものであってはならない。
懸念点
これらは自主的な保護措置である。企業に対してあらゆる目的での説明責任を課すものではなく、行動を求めるにとどまる。企業がこれらの保護措置を実施しない、あるいは渋々しか実施しない場合、できることはほとんどない。さらに、発表で挙げられた保護措置の多くは、これらの企業が公表した文書に記載されているものである。例えば、セキュリティテスト、いわゆる「レッドチーミング」は、OpenAIがモデルを公開する前に実施しているが、それでも問題は大々的に表れている。
これら7社がAI業界全体を網羅しているわけではない。例えば、AppleやIBMは含まれていない。集団的かつ効果的な取り組みを確保するため、メカニズムは、あらゆる関係者、特に悪意を持つ可能性のある関係者にも説明責任を負わせ、業界全体での幅広い遵守を促すべきである。
自主的な保護措置を遵守するだけでは、AIモデルがもたらす多様な課題に包括的に対処することはできない。例えば、ホワイトハウスが発表した自主的保護措置の一つは、ホワイトハウスは、「独自かつ未公開のモデル重みを保護するための、サイバーセキュリティおよび内部脅威への安全策に投資すること」である。 モデルの重みは、機能を決定する中核的な要素である。その重みへのアクセスは、一定の計算資源とデータがあればモデルを再構築できる能力の代理指標と見なされている。ただし、これは脆弱性の一つの要因にすぎない。例えば、偏ったデータや誤ったデータで訓練されたモデルも、公開された際に脆弱性や誤動作を伴うシステムにつながりうる。こうした複雑な問題に効果的に対処するには、追加の保護措置を設計し、実装する必要がある。
企業に信頼と安全への投資を求めることは曖昧である。企業におけるAI安全性研究は、開発研究と比べてはるかに少ない。例えば、2023年5月までに発表されたすべてのAI論文のうち、AI安全性に焦点を当てたものはわずか2%にすぎない。この限られたAI安全性研究の中で、民間企業に由来するものは11%しかない。この状況を踏まえると、自主的なガイドラインだけでこの傾向を変えるのに十分だと予想するのは難しい。
最後に、AIモデルは世界的に急速に開発・展開されている。規制されていないAIモデルが外国で助長する偽情報、誤情報、詐欺などの被害は、米国内にさえ広範な影響を及ぼしている。米国内に避難所を作るだけでは、他国の規制されていないAIモデルがもたらす被害から守るには不十分かもしれない。
したがって、多様なリスクに対処するため、米国内および世界の協力国と連携して、より包括的かつ実質的な措置が必要である。第一に、AIモデルを世界のどこであれ展開する前に安全性を試験する基準についての合意は、良い出発点となるだろう。この点において、G20サミットと英国のAI安全サミットは重要な場である。
第二に、策定されたいかなる基準も、各国が適切と判断する国内法や行政措置を通じて執行可能にする必要がある。欧州のAI法は、この取り組みの優れたモデルとなりうる。
第三に、これらのモデルを安全にするには、原則や倫理への呼びかけ以上のものが必要である。工学的な保護措置が必要である。情報の完全性を保証する生成AIコンテンツへの電子透かしは、この緊急の要請を満たす良い例である。ソーシャルメディアプラットフォームやAIサービスに本人確認の仕組みを導入し、AIボットの存在を特定して対処し、利用者の信頼とセキュリティを高めることも、もう一つの大きな取り組みとなりうる。
最後に、各国政府は、官民両部門におけるAI安全性研究に資金を提供し、インセンティブを与え、奨励する戦略を策定しなければならない。
ホワイトハウスの介入は、重要な初期の一歩である。この発表がより具体的な規制措置を推し進める足がかりとなることを前提に、米国内はもとより、その他の地域においても責任あるAIの開発と展開を促す起爆剤となりうる。発表が強調しているように、慎重に練り上げられた「拘束力のある義務」を実施することが、安全、確実かつ信頼できるAI体制を確保する上で不可欠となるだろう。
