デジタル時代における人工知能の普及は、特に情報の完全性の分野において、革新と課題の両方をもたらしました。
「ディープフェイク」を生成できるAI技術は、誤情報と偽情報の両方の作成に利用され得ます。
しかしながら、AIはパターン、言語、文脈を分析することで、コンテンツモデレーションを支援し、虚偽情報への対抗にも役立ちます。
デジタル時代における人工知能（AI）の普及は、特に情報の完全性の領域において、目覚しい革新と固有の課題の両方をもたらしました。
AI技術は、説得力のある偽のテキスト、画像、音声、動画（しばしば「ディープフェイク」と呼ばれます）を生成する能力を備えており、本物のコンテンツと合成されたコンテンツを見分けることを著しく困難にしています。この能力により、悪意のある者は偽情報キャンペーンを自動化・拡大でき、その到達範囲と影響力は大きく高まっています。
しかしながら、この物語においてAIは悪役ではありません。AIは偽情報および誤情報への対抗においても重要な役割を果たしています。高度なAI駆動型システムは、パターン、言語使用、文脈を分析し、コンテンツモデレーション、ファクトチェック、虚偽情報の検出を支援することができます。
誤情報（虚偽の意図しない拡散）と偽情報（意図的な拡散）の違いを理解することは、効果的な対策にとって極めて重要ですが、それにもコンテンツのAI分析が役立つ可能性があります。
ダボス2025における「インテリジェント時代の産業」
偽情報の社会的コスト
AIを活用した偽情報を放置した場合の影響は甚大であり、社会の基盤そのものを侵食しかねません。
世界経済フォーラムの『グローバルリスク報告書2024』は、誤情報と偽情報を今後数年間の深刻な脅威として位置付け、国内プロパガンダと検閲の台頭の可能性を指摘しています。
AIの政治的な悪用は深刻なリスクをもたらします。ディープフェイクやAI生成コンテンツの急速な拡散により、有権者が真実と虚偽を見分けることがますます困難になり、投票行動に影響を及ぼし、民主的プロセスを損なう恐れがあります。選挙が左右され、制度への国民の信頼が低下し、社会不安が引き起こされ、さらには暴力が噴出する可能性さえあります。
さらに、偽情報キャンペーンは、AI生成の有害なコンテンツによって特定の属性の人々を標的にすることがあります。例えば、ジェンダーに基づく偽情報は、固定観念や女性嫌悪を助長し、脆弱な集団をさらに周縁化します。
こうしたキャンペーンは世論を操作し、社会に広範な害を及ぼし、既存の社会的分断を深めます。
偽コンテンツに対処するための多面的アプローチ
AI技術の急速な発展は、政府による監視の速度を上回ることが多く、慎重に管理されなければ社会的な害につながる可能性があります。
コンテンツの真正性や電子透かしといった業界の取り組みは、偽情報やコンテンツの所有権に関する主要な懸念に対処するものです。これらのツールは、プライバシーの侵害や紛争地域のジャーナリストへの迫害といった悪用を防ぐため、慎重な設計と複数のステークホルダーからの意見が必要です。
例えば、コンテンツ来歴・真正性連合（C2PA）は、Adobe、Arm、Intel、Microsoft、TruePicによって推進されており、メディアコンテンツの発信元と履歴、すなわち来歴を証明するための技術標準の策定を通じて、オンライン上の誤解を招く情報の蔓延に対処しています。
AIに関連するリスクをさらに軽減するため、開発者と組織は、堅牢な安全対策、透明性の措置、説明責任の枠組みを実施しなければなりません。
包括的なシステムを構築することにより、開発者はAIが倫理的かつ責任ある形で展開されることを確実にでき、それによって信頼を醸成し、様々な分野におけるAIの有益な活用を促進することができます。
技術的な措置に加えて、デジタル情報の複雑な環境を人々が乗り越えられるようにするためには、メディアリテラシーと批判的思考に関する公教育が不可欠です。
学校、図書館、地域団体は、これらのスキルの向上において重要な役割を果たし、人々が情報源を批判的に評価し、誤情報と事実に基づくコンテンツを見分け、十分な情報に基づいて判断する能力を身につけられるよう、資源と研修プログラムを提供しています。
誤情報への対処には協力が不可欠
さらに、政策立案者、テック企業、研究者、市民団体を含むステークホルダー間の協力は、AIによって引き起こされる誤情報と偽情報がもたらす多面的な課題に効果的に対処するために極めて重要です。
この状況は、人為的に作られたコンテンツとAI技術の台頭によって助長される虚偽情報の拡散に取り組むため、世界的な理解と協力を育むことの重要性を浮き彫りにしています。
AIガバナンス・アライアンスは、世界経済フォーラムの旗艦イニシアチブであり、「第四次産業革命センター」の一部として、第四次産業革命センター、誤解を招く、または有害なコンテンツの生成や知的財産権の侵害を含む、AIの複雑な課題に対処するため、世界中の専門家と組織を結集しています。
協働の取り組みを通じて、同アライアンスは、AIが責任を持って、倫理的に、そして人類に最大の利益をもたらすよう開発・展開されることを確実にするための実践的な提言を策定しています。
フォーラムのもう一つのイニシアチブは、グローバル・デジタル安全連合が、メディアリテラシーの向上に向けた社会全体のアプローチを推進することで、偽情報への対策を主導しています。これには、虚偽情報がどのように生成、拡散、消費されるかを理解すること、そしてそれに対抗するために各段階で必要なスキルを特定することが含まれます。
同連合は、テック企業、政府関係者、市民社会、国際機関を結集し、オンライン上の被害の削減を目的としたベストプラクティスの共有と行動の調整を行っています。
デジタル安全へのアプローチの推進
AIが世界を変革し続ける中、デジタル安全と情報の完全性に対するアプローチを推進することは不可欠です。
世界経済フォーラムは人工知能のガードレールをどのように構築していますか？
AI卓越センターは、急速に進化する人工知能と、それが経済や社会に及ぼす影響を理解するために、各分野のリーダーをつなぎます。AI導入に関連する機会、リスク、トレードオフについて、十分な情報に基づく対話を支援しています。
信頼できる場と協働イニシアチブを通じて、同センターはパートナーが共通の理解を築き、AIの革新と利用における責任あるアプローチに向けて協力できるよう支援しています。
協力、イノベーション、規制の強化を通じて、私たちはAIのリスクから守りつつ、その恩恵を活用することができます。技術が公共の信頼と民主的価値を損なうのではなく、高めていく未来を確実にすることができるのです。
共に取り組むことで、私たちはAIが操作や分断ではなく、真実と進歩のためのツールとして機能することを確実にできます。
