ブロックチェーンはディープフェイクの脅威への対策に役立つ。その方法とは

• ディープフェイクは、人工知能の悪用によって社会のあらゆる側面に脅威をもたらしている。
  

• ブロックチェーン技術には、デジタル・エコシステムにおける信頼と信用を回復する力がある。
  

• デジタル・ガバナンスを強化し、デジタル上の不正義の被害者を保護するには、マルチステークホルダーによる行動が必要だ。

ソーシャルメディアの普及、高度なデジタル操作ツールの登場、そして依然として旧式で、資源が不足し、権限も限られた立法・司法制度により、デジタル被害の被害者と、デジタル司法にたどり着くまでの道筋との間の説明責任のギャップは広がっている。

ある朝目を覚ますと、友人、家族、同僚から大量のテキストメッセージや電話が来ているとしよう。内容は、あなたの知らぬ間に、あるいは同意なしにあなたのソーシャルメディアに投稿された、あなたの親密な画像や動画に関するものだ。しかし、あなたが写っているこれらのコンテンツは一切実在しない。実際には、それらはディープフェイクによって作られたものなのだ。あなたはどう対応するだろうか。そもそも誰がこのコンテンツを作ったのか。この犯罪に対して、どうすれば正義を得られるだろうか。

残念ながら、これらの問いに対する明確な答えは存在しない。その結果、個人や歴史的に疎外されてきた集団が、ディープフェイク、同意のない親密な画像（俗に「リベンジポルノ」と呼ばれる）、そしてデータ駆動型の被害全般の脅威に最もさらされるようになっており、この問題への対処は、これまで以上に急務となっている。

ディープフェイクは当たり前のものになりつつある。これは大きな問題だ

ディープフェイクとは、現代のAI（人工知能）を用いて、話し方や行動を再現するために作られた合成表現である。ディープフェイクがもたらす最大の脅威は、加害者がほとんど、あるいは全く責任を問われない不処罰の文化を助長することだ。さらに、深層学習アルゴリズムを用いて、同意なしに写真の女性の服を脱がせる、新しく、はるかに高度な「ヌード化」ウェブサイトの登場により、加害者はより多くの自由、動機、そして有害な行為を続けるための手段を与えられている。

この最近の動向は、2021年の開始以来38百万回以上のアクセスを集め、これまでに作られた中で最も人気のあるディープフェイクツールの一つとなっている。この新しいウェブサイトの写真やリンクはダークウェブに限定されておらず、Googleの検索エンジンのインデックスからも削除されていない。何の制約も受けずに運営されており、その後、Twitter、Facebook、Redditなどの主要プラットフォームにも広がっている。枚挙にいとまがない。

女性は長年にわたり、ディープフェイクの被害によるトラウマに苦しんできた。実際、オンライン上に出回る85,000件のディープフェイクのうち、99%を超えるものが女性を対象としたポルノ型ディープフェイクである。女性は世界人口の約半数を占めるにもかかわらず、ディープフェイクやディスインフォメーションのようなオンライン技術が女性やその物語を標的とする方法は見過ごされ、法律や政策立案者によって十分に対処されないままとなっている。

注目を集めた事例

2018年に調査報道ジャーナリストのラナ・アイユーブが標的となった事例を挙げよう。彼女を抑圧することを目的としたポルノ型ディープフェイク動画が作られた。その動画はインドの何百万台もの携帯電話に拡散され、アイユーブは不安発作と動悸により入院した。インド政府もソーシャルメディア企業も、国連の特別報告者が介入し、アイユーブの保護を求めるまで対応しなかった。

ラナ・アイユーブ、調査報道ジャーナリスト。

また、2017年のスヴィトラーナ・ザリシュチュクの事例もある。当時ウクライナ議会の議員であった彼女の公的なイメージは、「チープフェイク」――彼女を性的に扱い、貶め、公的生活から追い出そうとするために、粗雑に編集された写真――によって傷つけられた。ザリシュチュクに対するこのキャンペーンがクレムリンの作戦であったことは、ほぼ確実である。

このような事例は他にも数多く存在し、これらの新興技術の手軽さとアクセスのしやすさが、規制されないまま発展するにつれて、その数は増え続けている。つい昨年には、次のことが明らかになった。ユーザーがテレグラムのチャンネルを利用し、1.25ドルを支払うことで、主に東欧とロシアの680,000人以上の女性について、本人の知らぬ間に、また同意なしにヌード画像を生成していたのだ。

より注目度の低い事例ではあるが、重要性は劣らない事例として、アメリカのYouTuberであり、ASMR4のアーティストであるギビは、ディープフェイクやオンラインでのハラスメントの標的となってきた。この問題が深刻化したため、彼女は名前を変え、自宅を離れ、自身を特定しうる情報を公開する際には極めて慎重になる必要があった。その後、彼女は、他者が彼女の画像を、同意なしにディープフェイクやその他の偽の、しばしばポルノ的な素材の販売によって利益を得ているオンラインビジネスをいくつも発見した。彼女は、彼女のディープフェイクを1本700ドルで削除すると申し出る企業からも接触を受けたことさえある。

デジタル世界が物理的現実の延長であることを踏まえれば、物理的世界で罰せられる行為は、仮想世界でも罰せられるべきである。しかし、デジタル手段によって行われた犯罪を訴追する際、その処罰を妨げる最大の障壁の一つは、従来の犯罪が新しい状況に適応していないことと、デジタル犯罪の背後にいる加害者を特定することの困難さである。ブロックチェーン技術の可能性は、後者の問題の解決に役立てるために研究・開発が進められている。

ブロックチェーンはどのように役立つのか。

ブロックチェーン・システムは、分散型で改ざん不可能な台帳を用いて情報を記録する。その情報は、利用するすべての主体によって継続的に検証・再検証されるため、作成後に情報を変更することはほぼ不可能である。ブロックチェーンの最もよく知られた用途の一つは、ビットコインなどの暗号資産の移転を管理することである。しかし、ブロックチェーンが真正性の分散型検証と明確な所有経路を提供する能力は、金融資産だけでなく、あらゆる形態のコンテンツを追跡し検証するツールとしても有効となりうる。

ブロックチェーンがディープフェイクへの対抗に果たしうる可能性を理解するには、ハッシュアルゴリズム、暗号署名（データを可読形式（平文とも呼ばれる）から保護された形式（暗号文とも呼ばれる）に変換し、再び可読形式に戻す手段）、そしてブロックチェーンのタイムスタンプ（文書の作成日時や変更日時を安全に追跡する方法）の基本を理解することが重要である。

暗号アルゴリズムとハッシュ化はブロックチェーン特有のものではないが、これらの技術の特定の機能は、ブロックチェーン技術の他の機能、例えばその改ざん不可能性と組み合わせることで、より強力になる。

暗号ハッシュを、特定のコンテンツやファイルに固有の指紋のようなものだと考えてほしい。例えば、下の画像は、任意の大きさのテキスト入力が暗号ハッシュアルゴリズムを通過し、固定長の出力を生成する仕組みを示している。この出力はハッシュと呼ばれる。同様のデータを持つ他の者も、そのアルゴリズムを用いて同じハッシュを生成でき、ハッシュを比較すれば、同じ情報を共有しているかどうかが分かる。これは、テキスト、ファイル、またはコンテンツが時間の経過とともに改変されていないことを証明するうえで役立つ。

これに、ブロックチェーンがもたらす改ざん不可能性、すなわちブロックチェーン上の記録が恒久的かつ不可逆的に残り続ける能力を加えると、ハッシュ、つまり「指紋」は変更できなくなり、特定時点におけるデジタルコンテンツの改ざん防止済みの参照情報となる。これをディープフェイクの識別に適用すると、ブロックチェーンネットワーク上では、ハッシュが、画像、動画、あるいはコンテンツ全般が時間の経過とともに改変されていないことを証明するのに役立つということになる。ブロックチェーン技術は、デジタルコンテンツの来歴と追跡可能性を可能にすることで、デジタルコンテンツの監査証跡の作成に役立ちうる。

デジタル署名や標準的な暗号化といった従来の技術と併用し、否認防止を確保することで、ブロックチェーン上のタイムスタンプは、ディープフェイクの識別に有用な情報を提供する役割を果たしうる。例えば、項目の作成日を確認したり、コンテンツが特定の時点で誰かの手元にあったことを示したりすることができる。このようなタイムスタンプは、サプライチェーン上の商品の来歴確認や、契約書の署名を検証する公証人などを含め、さまざまな業界の特定用途ですでに利用されている。

例えば、写真・動画認証企業のTruepicは、ビットコインとイーサリアムのブロックチェーン上でコンテンツの公証とタイムスタンプを行い、撮影から保存までの保管の連鎖を確立している。改ざん不可能性などのブロックチェーンの機能を加えることで、さらなる改ざん不可能性の保証が得られる。これにより、共有されたデジタルコンテンツの検証可能な履歴が提供される。デジタルコンテンツの利用者が、そのコンテンツの背景を確認する助けにもなりうる。

なぜ万能薬ではないのか

ブロックチェーンがもたらすこのような利点は、常に設計と実装に依存し、いくつかのアーキテクチャ上の選択に左右されることを指摘しておく価値がある。タイムスタンプは、文書の存在の証明には役立つが、所有権を証明するものではない（所有権は、例えば準拠する知的財産権の契約など、多くの考慮事項の対象となる）。

ブロックチェーンがディープフェイクへの対抗や、これらの被害の背後にいる加害者の特定においてできることには限界がある。ブロックチェーンは、AIなどの他の新興技術と組み合わせることで、ディープフェイクの識別能力を確かに強化しうる。しかし、技術的な問題は、技術的な解決策だけでは解決できない。

ブロックチェーンを効果的に役立てるためには、デジタルコンテンツの作成と利用のガバナンスを形成することに取り組む、政府、企業、市民社会、技術分野のリーダーによる国際コミュニティ内での、強固なパートナーシップが不可欠である。ディープフェイク技術の影響範囲と規模を縮小するには、補完的な政策、市民参加の戦略、ならびに文化的・社会的変革も重要である。コンテンツのライフサイクルに対する透明性を高め、デジタル上の不正義の被害者に対する説明責任のギャップを埋めることで、ブロックチェーンは、デジタル・エコシステムへの信頼を回復するための潜在的な仕組みを提供しうる。

世界経済フォーラムは、ディープフェイクの被害者向けのリソースガイドを含む白書を発行している。タイトルは「デジタル司法への道筋」である。

世界経済フォーラムのデータ政策に関するグローバル未来評議会は、これらの問題を検討することを目的としたマルチステークホルダーによる取り組みを主導しており、デジタル司法への道筋は、メディア、エンターテインメント、スポーツに関するグローバル未来評議会および人類のためのAIに関するグローバル未来評議会と協働して実施されている。詳細については、Evîn Cheikosman（エヴィン・チェイコスマン）までご連絡ください：evin.cheikosman@weforum.org。