生成AIは急速に進化しており、世界各国の規制当局は後追いの状況にあります。
世界経済フォーラムのポッドキャスト・シリーズ「Radio Davos AI」第4回では、今後何をすべきかについての意見を紹介します。
視聴はこちらの 特集エピソードのランディングページから。任意のポッドキャスト・アプリで購読できます こちら。
生成AIの登場は、その機会と潜在的リスクの両面を伴い、この技術をどのように規制すべきかについて世界的な議論を巻き起こしています。
世界経済フォーラムのポッドキャスト「Radio Davos」の人工知能特集の一環として、私たちは専門家に対し、AIへのアプローチの仕方や、人々の生活を変えうる可能性について話を聞いています。
全6回シリーズの第4回となる今回は、非営利団体 AI Commonsの共同創設者兼ディレクターであるAmir Banifatemi氏と、AIGC ChainおよびStability AIの共同創設者でもあり、世界的な知識拠点AI Commonsの運営委員会にも参加しているCyrus Hodes氏にお話を伺いました。
対談から得られた主な知見は以下のとおりです。
AIの安全対策を今すぐ検討すべきだ
「これは人類文明にとって重大な局面です」と、Cyrus Hodes氏は述べています。
「私たちが転換点にあることは疑いようがなく、そのためには枠組みと安全対策が確実に整えられるよう取り組むべきです。」
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのでしょうか？
世界経済フォーラムは最近、AIガバナンス・アライアンスを設立しました。これは、産業界のリーダー、政府、学術機関、市民社会組織を結集し、透明性と包摂性のあるAIシステムの責任ある世界的な設計と公開を推進することを目的としています。
本アライアンスは、AIが人間生活のあらゆる側面に影響を及ぼしうるという認識に基づき、その責任ある開発を確保するために設立されました。
新しいAIモデルの公開は慎重に管理しなければならない
「言語モデルの開発、その訓練、そして開発が進む速度を減速させるべきかどうかについては、多くの議論や対話が行われています」とAmir Banifatemi氏は述べていますが、同氏はより現実的なのは別のアプローチだと考えています。
「研究を減速させるべきではありません。これは発見であり、創意工夫の成果であり、私たちが前進する方法です。しかし、開発されるモデルや、それらのモデルがアプリケーションの構築にどのように使われるか、そのアプリケーションが誰に役立つのか、そしてどれほど安全かという点については、確実にガードレールが必要です。強力なAIモデルの公開は、慎重に管理されるべきです。」
「まだ開発段階にあるAIモデルに、これらのツールを十分に習得していないか もしれない、あるいはリテラシーが十分でないかもしれない一般の人々をさらすべきではありません。規制当局もこの点に注目していると思います。」
AI規制には新しいアプローチが必要だ
「中核となる柱は、AIは人間中心でなければならないということです」とHodes氏は述べています。例えば、AIが国連の持続可能な開発目標の達成に寄与するよう確実にする必要があります。
「また、公平性、説明責任、透明性は、他の多くの国々でも議論され、採用されてきた重要なテーマです」とHodes氏は述べています。
Amir Banifatemi氏は、規制当局がAIの潜在的な影響の大きさを早急に理解し、開発のスピードに追いつくために規制プロセスの速度を上げる必要があると考えています。
「これは私たち人類にとっての問いです」とBanifatemi氏は述べています。「何千年もの間、私たちには兄弟や従兄弟のような存在はいませんでしたが、今やそれが現実になるかもしれません。ですから、それをどう理解し、どう向き合うかが問われています。政策立案者や規制当局は、その理解の仕方、協力の仕方、そして私たちがより良く対応できる枠組みを作る方法を加速させることを迫られるでしょう。」
Hodes氏は、政策立案者が長期的な視点を持てるかどうかについて懐疑的です。
「ほとんどの政策立案者は再選を気にしています。彼らは短期的な視点を持っています。同時に、私たちは最も重要な課題である新たな知能の台頭について議論していません。世界中の政策立案者に対して、多くの教育が必要です。」
「これは私たち人類にとっての問いです。何千年もの間、私たちには兄弟や従兄弟のような存在はいませんでしたが、今やそれが現実になるかもしれません。」
Amir Banifatemi
Hodes氏は、原子力の安全に関する国際条約や核兵器の不拡散条約を、AI規制のモデルとして挙げています。
「世界中の政策立案者が結束し、そのような取り決めに向けて取り組むべき時が今まさに来ています」と同氏は述べています。
「なぜ世界レベルでAIを規制しないのでしょうか？ 同僚たちが警鐘を鳴らしている今こそ、それが実現する時だと私は信じています。」
