AIはダボス会議2024で注目のテーマに――専門家はどう見ているのか

• 人工知能は今日の世界のほぼあらゆる側面を変革する可能性を秘めていますが、対策を講じなければ深刻な脅威をもたらしかねません。

• AIシステムの革新能力を損なうことなく規制する政策を策定するには、マルチステークホルダーによる協力が鍵となります。

• これらは、世界経済フォーラムのポッドキャスト「Radio Davos」のAI特集編のために集められた専門家の見解の一部です。

「数百万人が一夜にして利用する技術というのは非常にまれです。そうなると、有益で予想外の方法で使われることへの期待が高まる一方で、至る所で一斉に使われることによる技術の脆弱性も生じます。」

こう語るのは、Cohereの研究担当副社長でCohere For AIのリーダーでもあるサラ・フッカー氏です。同氏は、世界経済フォーラムのポッドキャスト「Radio Davos」のAI特集編で、他の人工知能の専門家たちとともに見解をまとめて紹介しています。

フォーラムは2023年に人工知能に関する2つのサミットを開催し、AIガバナンス・アライアンス（AIGA）を立ち上げました。これは、AI政策が技術の進歩に追いつくための方法を検討するマルチステークホルダー組織です。AIがもたらす影響の拡大は、今後開催されるダボス年次総会においても注目のテーマになると見られています。

では、専門家たちは何を語っているのでしょうか。今年、AIについて何が分かったのか、そして、急速に進化し、破壊的な影響をもたらしかねないこの技術を、人間社会は将来どのように統治できるのでしょうか。

AIとその統治がこれほど重要な理由

AIには、私たちの暮らしや人々のやり取りの仕方を変え、仕事における生産性や参加意識を高め、創造性を育むなど、世界を変革する力があります。そのほか、あらゆる面での影響も含まれます。

しかし、これらの技術は急速に進化しており、技術の悪用、セキュリティ侵害、雇用の喪失、経済の混乱など、潜在的な課題に満ちた未知の領域へと世界を導いています。

世界経済フォーラムの「Future of Jobs Report 2023（2023年版『仕事の未来』報告書）」によると、AIによって数百万の雇用が失われる可能性がある一方で、この技術の登場によって多くの新たな仕事が生まれるとされています。

最も急速に成長している職種はAIおよび機械学習の専門家です。Image: 世界経済フォーラム

AIおよび機械学習の専門家は最も急速に成長している職種であり、判断力、創造性、身体的な器用さ、感情的知性といった人間ならではのスキルを必要とする他の職種も同様に成長しています。

最も急速に減少している職種には、銀行の窓口係、レジ係、郵便サービス係、切符の係員など、反復的な業務が含まれます。

「不安を軽視すべきではないと思います。なぜなら、それは自然なことだからです。技術に大きな変化があるたびに不安が生じてきましたし、その中にはもっともな理由があるものも少なくありません」とフッカー氏は述べています。「私たちは、教育プログラムをどのように構築し、人々がAI技術を活用するためにどのような支援を行うべきかについて、現実的な議論を重ねることが重要だと考えています。」

では、AIモデルを安全かつ責任をもって展開するにはどうすればよいのでしょうか。

世界経済フォーラムでAI、データ、メタバースの責任者を務め、C4IRの副責任者でもあるキャシー・リー氏によると、AIの利用を保護するための取り組みは数多く行われてきたとのことです。

2023年10月、米国政府はAIに関する大統領令を発出し、AIを安全かつ確実に利用するための新たな基準の策定を進めることになりました。

同月、主要国で構成されるG7は、高度なAIシステムを開発する組織向けの国際的な行動規範も発表しました。

その後、英国政府がAIサミットを開催し、その結果としてブレッチリー宣言が採択されました。同宣言は、AIのメリットを活用しつつリスクに対処するため、マルチステークホルダーによる行動を呼びかけています。

AIを安全に展開するうえで、協力は重要でしょうか。

2023年11月にサンフランシスコで開催された世界経済フォーラム「AIガバナンス・サミット」では、人工知能の倫理的かつ責任ある開発を確実にすることへの取り組みが議論されました。

「さまざまな分野の参加者は、AIの統合がもたらす大きな機会を強調する一方で、世界的な倫理基準に沿った責任ある開発の必要性が極めて重要であると指摘しました。また、適応性のある規制の枠組みや、調和のとれた基準といったテーマも取り上げられました」とリー氏は述べています。

このイベントには、規制当局、政府、企業、学界、その他のステークホルダーが参加し、AIがもたらす課題と機会について議論しました。

「AIが社会全体、政府、企業、コミュニティ、そして人間一人ひとりにもたらす変革の機会は、官民による強力な協力が一体となってこそ実現できます」と、Salesforceの社長兼最高法務責任者であるサビスチャン・ナイルズ氏は述べています。

「信頼と包摂を軸に据え、公平性、持続可能性、イノベーションについて考え、AIを検討する際にはステークホルダーの成功を真に重視すれば、基盤を引き上げ、ビジネスの成果、人間の成果、社会の成果、市民社会の成果を改善し、真に力強い壮大な目標も達成できると思います。

「責任あるイノベーションを促進する形で、これらの種類の技術の開発を支え、保護するためには、健全な法律と健全な公共政策が必要です。

「さらに多国間的で、さらにマルチステークホルダー的な仕組みを持つ必要があります」とナイルズ氏は述べています。

デジタル格差の是正

「人工知能という名前のものを、実際に統治することはできません。統治できるのは、人工知能が影響を及ぼしうる副次的な影響や分野です。そして、それらを個別の事例ごとに取り扱うことが、実際に何らかの政策を策定する最善の方法です」と、ドバイ未来財団の最高経営責任者であるハルファン・ベルホール氏は述べています。

「しかし、最大の課題は、どのようにしてそれらの政策を統一し、ベストプラクティスや基準を定め、それを世界規模で適用して、誰もがAIを最善の方法で利用できるようにするかということです。

「AIGAアライアンスは、第一段階に注力できます。すなわち、適切な声を結集し、それらすべての見解を含む総合的な計画を策定し、それを行動項目に落とし込むことです。

「このアライアンスを通じてそれらの行動を具体化する際には、最初の行動は、世界の手本となり、段階的に標準化できるような、具体的なユースケースやパイロットプロジェクトになるでしょう。

「人工知能に特化して取り組むには、特定の分野に焦点を当てる必要があります。例えば、メディア分野にどのような影響を与えられるか、どのようなコンテンツを活用できるか、そしてそのコンテンツをどのように利用するか、といった点です。それが完了したら、段階的に別の分野へと広げていくことができます」とベルホール氏は述べています。

フォーラムのAIGAとそのサミットを特徴づけるのは、まず、それらがコミュニティを基盤としていることです。次に、これらの機動的なイベントを通じて、現場における最も緊急かつ必要な行動を、非常に迅速に推進できることです。

「重点的に取り組まれたテーマの一つは、AI開発による恩恵を先進国と開発途上国の双方に広げるための包摂性の確保でした」とリー氏は述べています。

「デジタル格差の是正が中心的なテーマとなり、参加者からは、データクラウドサービスやコンピューターといった重要なインフラへのアクセス拡大と、訓練や教育の改善に向けた基盤整備の必要性が訴えられました。

「主な結論として、オープンソースとイノベーションをめぐる議論においては、明確な定義と慎重な検討が必要であること、デジタル資源へのグローバルなアクセスに向けて官民の協力を促進すること、そして適応性のある規制、調和のとれた基準、継続的な国際的議論を通じてAIガバナンスを推進することが挙げられます」とリー氏は述べています。

AIに対する過剰な規制は、イノベーションを阻害するのでしょうか。

AIに関する政策論争の中で、過剰な規制によってイノベーションが法律によって抑え込まれ、AIの持つ変革の可能性が十分に実現されなくなることを懸念する声もあります。

「現在AIに対する私の最大の懸念は、規制によってこの素晴らしい進歩が阻まれ、それがなければ世界の多くの人々がより健康で、より長く、より充実した人生を送れるはずなのに、その機会が失われてしまうことです」と、CourseraおよびDeepLearning.AIの創設者であるアンドリュー・ウ氏は述べています。

「AI技術は非常に強力ですが、汎用技術であり、ChatGPTやBardのような一つの用途にしか使えないものではありません。医療システムにおける医療記録の処理改善、法律文書の処理の効率化、カスタマーサービスや顧客のニーズへの対応など、さまざまな分野で役立っています。」

「個々の応用には リスクがあり、規制されるべきです。例えば、医療機器を販売しようとするなら、その安全性を確かめなければなりません。自動運転車を開発するなら、規制が必要です。融資の審査を行うシステムがあるなら、偏りがないかを確認する方法を確保しなければなりません。

「危険が生じるのは、基盤となる技術そのものを規制する場合です。」

「AIを電気にたとえてみてください。解決すべき利用例は複数あり、確かに感電させることもあれば、危険な火花を生じさせることもあります。しかし今日、感電を恐れて暖房、冷蔵、照明を手放そうとする人は、ほとんどいないでしょう。」

「AIにも同じことが当てはまると思います。有害な利用例は多くありますが、日々安全性を高め、前進できるよう応用分野を規制しています。しかし、AIの技術開発を遅らせるために不完全な規制を課すことは、大きな誤りになるでしょう」とウ氏は述べています。

AIの未来に向けて

では、AIの開発とその統治の将来はどうなるのでしょうか。

「世界経済フォーラムのAIガバナンス・サミットでは、生成AI技術の責任ある包摂的な開発に向けた実践的な計画を策定することができました」とキャシー・リー氏は述べています。

「次のステップは、2024年1月のダボス年次総会において、最初の報告書を公表することを通じて、それらの計画を統合し、共有することです。

「ダボスでの議論には、オープンソースとクローズドソースのAIモデルの間の論争や、AI技術の短期的および長期的なリスクが含まれる予定です。

「これらの取り組みが、ガバナンス分野の協力者やより広範なエコシステム内で、人工知能分野における責任ある倫理的な進歩を確実にするための、さらなる協力や行動を導くことが期待されています」と彼女は述べています。