ディープフェイクとは、人物が実際には言ったり行ったりしていないことを、あたかもそうしたかのように偽って見せるために加工された合成メディアです。
ディープフェイクは、誤情報の拡散や評判の失墜、さらには選挙への影響に利用される可能性があります。
現在、ディープフェイクの利用を規制する世界的な枠組みはありません。
ロシアによるウクライナ侵攻から1か月もたたないうちに、ウクライナのウォロディミル・ゼレンスキー大統領が兵士たちに武器を捨て、ロシアとの戦闘をやめるよう呼びかけているとされる動画が、ソーシャルメディア上に現れました。動画の口の動きは一見かなり自然に見えましたが、ゼレンスキー氏のアクセントや顔の動き、声に食い違いがあり、本物かどうか疑念が生じました。
詳しく調べると、簡単なスクリーンショットから、その動画が実際には偽物、つまりディープフェイクであることが明らかになりました。これは、戦争の文脈でディープフェイク動画が使われたと確認された初めての事例でした。
ディープフェイクとは、音声、画像、動画など、人物が実際には言ったり行ったりしていないことを、あたかもそうしたかのように偽って見せるために加工・改変された合成メディアです。
世界経済フォーラムは、人工知能のガードレールをどのように構築しているのでしょうか？
AIエクセレンス・センターは、急速に進化する人工知能と、それが経済や社会に及ぼす影響を理解するため、さまざまな分野のリーダーを結びつけています。AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を支援しています。
信頼できる場と協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に責任ある形で取り組めるよう後押しします。
6月5日、ロシアのウラジーミル・プーチン大統領はウクライナとの国境に接する地域に戒厳令を敷き、軍の動員を発表しました。これらの措置は、ロシアの複数のラジオ・テレビ局を通じて伝えられました。しかし間もなく、プーチン氏の演説も、ハッキングされたテレビやラジオのチャンネルで放送された偽物、つまりディープフェイクだったことが判明しました。あまりに本物らしかったため、ベルゴロド州のロシア当局は住民に警告を発し、ディープフェイクが意図した「平穏なベルゴロド住民にパニックを広げる」目的に惑わされないよう呼びかけました。
ディープフェイクの台頭は、人工知能の指数関数的な成長と、それが国内および国際的なガバナンスにもたらす課題を鮮明に示しています。ディープフェイク技術は、機械学習の枠組みの一種である敵対的生成ネットワーク（GAN）が2014年に発明されたことで発展しました。2つのニューラルネットワークを競わせ、新たなコンテンツを作り出すことを目指します。
2018年までにGANは、実在しない人物の非常にリアルな画像などを生成できるまでに進歩しました。2017年秋、最初のディープフェイク動画がRedditに投稿されました。初期のディープフェイクでは、ハリウッド女優の顔を成人向け動画の出演者の体に合成していました。2年足らずで、オンライン上でほぼ15,000本のディープフェイク動画が確認され、そのうち憂慮すべきことに96％が成人向けコンテンツに分類されました。さらに、こうした動画に描かれた被害者は100％が女性でした。
憂慮すべきことに、今年初め、今や小児性愛者がディープフェイクを使って児童虐待の露骨な画像を作成していると報じられました。カナダのケベック州では最近、ある小児性愛者が有罪判決を受けました。警察がその人物のコンピューターから子どもの写真や動画を545,000点発見し、そのうち86,000点は、特にFacebookなどのソーシャルメディアから収集した実在する子どもの画像をもとに生成されたディープフェイクでした。
ディープフェイク技術は、悪用の可能性も示しています。個人を搾取する以外にも、悪質な目的に使われる恐れがあります。医療画像を改変して偽の腫瘍を作り出したり、実際の腫瘍を消したりできるほか、衛星画像を操作して地形全体を捏造したり、地理情報のディープフェイクを作成したりすることも可能です。その影響は重大で、個人のプライバシーだけでなく、医療や国家安全保障など、さまざまな分野にリスクをもたらします。
2022年11月30日、米国の人工知能研究所であるOpenAIは、AIチャットボットのChatGPTを公開しました。ChatGPTは5日以内に500万人のユーザーを獲得しました。同じ節目に到達するのに、Netflixは3年半かかりました。わずか2か月でユーザー数は1億人に達し、史上最も急成長した消費者向けアプリとなりましたが、今月、MetaのアプリThreadsに追い抜かれました。初期版のChatGPT（ChatGPT 3.5）は米国統一司法試験で平凡な成績（10パーセンタイル）でしたが、続いて2023年3月14日に公開されたChatGPT 4は、司法試験合格を目指す受験者の90％を上回りました。
最近の実験で、MIT准教授のGCSPのポリマス・フェローでもあるケビン・エスベルト氏と学生たちは、GPT-4のような、誰もが自由に利用できる「大規模言語モデル」アルゴリズムを使い、極めて危険なウイルスを入手するための詳細な手順を考案しました。わずか1時間で、チャットボットはパンデミックを引き起こす可能性のある病原体を4種類提案し、合成DNAからそれらを作る方法を示し、注文を審査しそうにないDNA合成企業まで推奨しました。彼らの結論は憂慮すべきものでした。AIチャットボットへの容易なアクセスによって、「数千万人を殺害できる人の数が劇的に増加する」ことになるというのです。
生成AIの利用しやすさが高まることは、機会だけでなく、個人を標的とする操作を含む甚大なリスクももたらします。最近の研究では、患者の質問に対するAI生成の回答は、質と共感の面で医師の回答を上回ることが明らかになりました。共感とは、自分の視点ではなく相手の視点からその人の気持ちを理解する、人間に本来備わった能力ですが、今やチャットボットがそれを上回りつつあります。これは政府にとって警鐘となるべきです。大規模な転覆工作への道を開き、世論を武器に政策へ影響を与え、公共機関を不安定化させる新たな戦争形態、すなわち認知戦を生み出しかねないからです。生成AIやChatGPTのようなツールは、まもなく大量欺瞞兵器と見なされる可能性があります。
これらの事例は、AIが指数関数的な速さで進歩していることを裏付けています。課題は、人間や組織が将来の展開を考える際に、直線的に考える傾向があることです。新型コロナウイルス感染症のパンデミックが急速に広がったような指数関数的成長に直面すると、多くの政府はしばしば対応が遅れ、状況にそぐわない措置を取ってきました。
指数関数的に進化する新興技術の時代に、世界および各国のガバナンスは、より迅速に対応し、先を見越せるよう適応しなければなりません。戦略的フォーサイト、つまり起こり得る未来を思い描き、それに基づいて行動する能力は、国内および世界のガバナンスに携わるあらゆる組織の標準的な手順となるべきです。そのためには、こうした機関で働く人々に多様な技能や経歴を取り入れる必要があります。さらに、指数関数的な技術変革の影響に効果的に対処するには、弱い兆候を見極める能力が欠かせません。専門分野の垣根にとらわれた思考や集団浅慮を脱するため、幅広い分野の知識を持つポリマス（博識家）を登用する必要性が浮き彫りになっています。
7月18日、国連安全保障理事会は、人工知能が国際の平和と安全にもたらし得る脅威を議論する初の会合を開きます。国連はすでに、この問題の一部に取り組んでいます。例えば、特定通常兵器使用禁止制限条約（CCW）の枠組みの下にある自律型致死兵器システム（LAWS）に関する政府専門家会合（GGE）は、自律型兵器が国際人道法に及ぼす潜在的な影響や、規制・禁止の可能性を検討しています。しかし、自律型兵器は戦略的安定にも重大な影響を与えますが、この分野はGGEでほとんど議論されていません。
AIは、電気よりも変革的な影響が大きいデュアルユース技術であり、国際安全保障に重大な影響を及ぼします。国連事務総長は最近、国際原子力機関に類するAIに関する国連機関の設立を支持する考えを表明しました。知識を重視し、規制権限を備えたそのような機関は、世界各地で急増するAI関連の取り組みの連携を強化し、AIの世界的なガバナンスを促進できるでしょう。
しかし、成功するには、国連は従来の政府間組織としてのあり方を超え、新たなガバナンスの枠組みに科学界、民間部門（AIイノベーションの主な担い手）、市民社会を取り込まなければなりません。官民パートナーシップもその一つです。最近ジュネーブで開催された「AI for Good」サミットでも言及されたように、このような取り組みに適したガバナンスのエコシステムを備えるジュネーブは、この構想を実現する理想的な場所です。
ディープフェイクと生成AIをめぐる難題は、人工知能の計り知れない力と、多面的な安全保障上の課題を改めて深く認識させます。責任あるAIガバナンスを追求するには、悪意ある悪用からの保護を優先するとともに、倫理的なイノベーションと社会の進歩を促す環境を育む必要があります。
戦略的フォーサイトを取り入れ、直線的思考から脱却し、多様な協働とセキュリティ・バイ・デザインを促進することは、倫理原則を守り、民主主義の価値を維持し、変革的な技術環境の中で人類の幸福を確保するAI活用の未来を共に形づくるうえで欠かせない一歩です。この道を切り開くことで、AI時代における、より公平で安全かつ繁栄した社会への道筋をつけることができます。
