誤情報と偽情報は、世界が直面する短期的に最も深刻なリスクです。
AIは、社会を不安定化させかねない、操作され歪められた情報を拡散させています。
世界経済フォーラムの『グローバルリスク報告書2024』は、AIの悪用から生じる相互に関連したリスクを明らかにしています。
世界秩序をさらに不安定化させかねない新たなリスクが次々と生まれています。
何世紀にもわたり世界を悩ませてきた紛争や経済的不確実性に加え、人工知能（AI）の広範な普及が新たな脅威をもたらしています。
世界経済フォーラムの「グローバルリスク報告書」の2024年版では、短期（2年）で私たちが直面する最も深刻な脅威をランク付けするとともに、長期（10年）のリスク環境の展望も示しています。
昨年の報告書からの主要な変化は3点あり、いずれも生成AIの普及と、その悪用の可能性に関連しています。これらの新たなリスクのうち1つは、短期で最も深刻なリスクに位置付けられています。新たなリスクの内訳は以下のとおりです。
1. 誤情報と偽情報
操作され、改ざんされた情報は、『グローバルリスク報告書2024』によると、現在、世界が直面する短期的に最も深刻なリスクです。
今後2年間で、誤情報と偽情報は民主的プロセスに対する過去最大級の課題の一つとなるでしょう。
世界各地で約30億人が選挙に参加する予定です。バングラデシュ、インド、インドネシア、メキシコ、パキスタン、英国、米国の有権者が投票を行う予定です。
「誤情報と偽情報は、複数の経済圏において選挙プロセスを根本的に混乱させるおそれがある」と報告書は述べています。報告書によれば、この混乱は市民の不安や対立を引き起こしかねません。また、メディアや政府の情報源に対する不信感も高まるでしょう。さらに、誤情報と偽情報は、政治的意見がすでに固定化している社会において、分極化した見解をいっそう深めるでしょう。
誤情報と偽情報がもたらすリスクは、「合成コンテンツ」と呼ばれるものを生成するための生成AIの広範な採用によって増幅されています。これは、ディープフェイク動画、音声クローン、偽のウェブサイトの作成までを含みます。
規制当局は、AIの悪用を抑制するための新たな法律の制定に動いていますが、技術の進歩のスピードは、規制プロセスを上回る可能性が高いと考えられます。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか？
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解することを支援しています。AIの導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支えています。
信頼できる場や協働的なイニシアチブを通じて、センターはパートナーが共通理解を構築し、AIの革新と利用に関する責任ある取り組みに向けて協力することを可能にしています。
2. AI技術の悪影響
民主主義や社会的結束への脅威にとどまらず、AIの潜在的な負の側面も、『グローバルリスク報告書2024』で取り上げられる、拡大しつつあるもう一つのリスクです。
報告書の2年間の時間軸では、AI関連のリスクは深刻度で29位ですが、10年後を見据えると、AIが社会のあらゆる側面に組み込まれるにつれて、脅威はランキングで6位に上昇します。虚偽情報の拡散に加え、リスクには大量の雇用喪失、軍事利用のためのAIの兵器化、サイバー攻撃を仕掛けるためのAIの犯罪利用、企業や国家が利用するAIシステムに内在する偏りなどが含まれます。
AI関連のさらなるリスクは、AIが生み出しうる結果に関する不確実性に直面する中で、慎重さよりもイノベーションを優先してきた、規制への慎重さを欠くアプローチから生じています。
3. 技術権力の集中
AIは、民生および軍事の両分野で無数の応用可能性を持ち、人類がこれまでに開発した中で最も強力な技術として急速に台頭しています。
『グローバルリスク報告書2024』は、このように強力で変革をもたらす技術がどのように開発されているのかという性質について懸念を示し、次のように述べています。「AI技術の生産は、少数の企業と国に有利な、単一でグローバルに統合されたサプライチェーンに高度に集中している。これは、今後10年にわたって顕在化しうる重大なサプライチェーンリスクを生み出している。」
これらのリスクには、AI開発における国家安全保障上の利益の優先、鉱物や半導体を含む部品をめぐるインフレ的な争奪戦による生産コストの急騰、そして利益を高めるための反競争的慣行が含まれます。
報告書によれば、EUはAI開発における公正な競争を確保するため、「デジタル・ゲートキーパー」の権限を抑制する規制をすでに検討しています。
AIが、医療、教育、雇用、エンターテインメントといった多様な分野において、人間の経験を高める大きな可能性を持つことは疑いようがありません。しかし、『グローバルリスク報告書2024』が指摘するように、この新興技術は新たなリスクを生み出しており、慎重に管理されなければ、今後数十年にわたり人類が直面する最大の脅威の一部となりかねません。
