ディープフェイク技術の利用は、件数と精巧さの両面で拡大しています。
この脅威に対する最善の武器は、認識と警戒心です。
これらの技術は賢いかもしれませんが、人間ではありません。人間は私たちです。
現代生活はこれ以上おかしくなりようがないと思った矢先、動画が、最近の英国選挙の直前に出回りました。首相のボリス・ジョンソン氏が、政敵のジェレミー・コービン氏を支持しているように見えるものでした。
ここで重要なのは「見える」という言葉です。これは、人工知能が実在の人物に非現実的な行動をさせているように見せかける動画や音声クリップ、つまり絶え間なく流れてくるディープフェイクの最新例の一つにすぎなかったからです。
もちろん、人間は何世紀も前から偽装を行ってきました。入れ墨やピアス、フェイスペイントやウィッグに至るまで、私たちは自分の外見を変えることや、ちょっとした空想に浸ることが大好きです。私が長年抱えていた小さな秘密は、緑色のカラーコンタクトレンズを着けていたことです。近視のために必要だったのですが、色は純粋に個人的な好みでした。そして、インスタグラムのフィルターを一度も使ったことがないと、真剣に言える人がいるでしょうか。
しかし、この話にはもっと暗い側面があります。
政治的な対立がますます深まる中、政治家を虚構の状況に登場させて信用を失墜させることは、個人的にも政治的にも壊滅的な打撃になりかねません。ポルノ制作におけるディープフェイクの利用も、もう一つの憂慮すべき傾向です。
これは企業にとっても、実際に深刻な被害を与え始める可能性があるものです。サイバー犯罪者は、AIを使ったCEOの声のディープフェイクを用いて、ある企業をすでにだまし、23万4,000ドルの送金を実行させています。報道されていない同様の事例が、ほかにどれだけあるのか分かりません。
最近、私のチームの一人が、当社のマネージング・パートナーになりすました人物から、WhatsAppの音声メッセージを受け取りました。別の人たちには、私から送られたとされる、送金を求めるメールが届きました。どちらのケースでも、フィッシングの試みは成功しませんでしたが、事態を救ったのは正式なセキュリティ管理ではなく、人間の直感でした。
では、個人や組織はディープフェイクによる攻撃からどのように身を守ればよいのでしょうか。
結局のところ、極めて高い警戒心を持つことに尽きます。組織は、最新の脅威とその対応方法について従業員に周知するため、頻繁に更新される、徹底したサイバーセキュリティ意識向上プログラムを確実に受けさせることで、その一助となることができます。考慮すべき点をいくつか挙げます。
1. 情報源を賢く選ぶ
特に若い世代の間で、ソーシャルメディアをニュースの情報源として利用する動きが強まっています。これは、彼らがデジタルメディアの中で育ってきたことを考えれば、驚くことではありません。一方、ブラジル、マレーシア、南アフリカといった欧米以外の国々では、WhatsAppがニュースを共有・議論する主要なネットワークになっています。
どちらの場合も、人々は本物のニュース、偽ニュース、そして事実として提示された主観的な意見が混在したものを目にすることになります。その情報源は、信頼できる発信元の場合もあれば、ボットの場合もあります。
おそらくそのためでしょう、上記のリンク先のレポートでは、調査対象者の55%がオンラインで何が本物で何が偽物かを見分ける能力に懸念を抱いており、26%は「より信頼できる」ニュースソースに頼るようになったと回答したことも明らかになっています。もちろん、何が信頼できると見なされるかは依然として非常に主観的です。そのため、ある記事について明確で証拠に基づいた分析を求めるなら、Snopesのようなファクトチェックサイトが、おそらく最も有用な資源です。
2. オンラインで共有する情報には注意する
私はインターネット上のプロフィールについて無謀だとは言いませんが、多くの人と同様に、今の時代の当たり前になっているため、深く考えずに行っていることもあります。利便性が慎重さに勝ってしまうのです。一方、夫はそうしたことに一切関わりたくないと考えており、自分が発信する情報については極めて慎重です。彼はFacebookのアカウントさえ削除しており、自分の写真がGoogleに表示されたときには動揺していました。
おそらく彼の考え方が正しいのでしょう。オンライン上に存在する組織を、確実に信頼できるかどうかを見極めることは極めて重要です。そのためのヒントは数多くあり、例えばこの投稿（セキュリティ企業ASecureLifeによるもの）などがあります。
定期的に行うべきもう一つのことは、自分自身の名前、そして子どもがいる場合は子どもの名前もGoogleで検索し、オンライン上の足跡を把握することです。オンラインで何かを購入するために作成したアカウントについても同様です。自分に関する情報を保有している場所の多さに、おそらく愕然とするでしょう。休眠状態の情報があれば、そのままにせず、必ず削除してください。
3. 「本物の人間か、それともボットか？」テストを実施する
ボットはますます多くのことができるようになっていますが、まだ身につけていないことが一つあります。それは、説得力をもって人間らしく振る舞うことです。ブランドのチャット機能を最後に利用したときのことを思い出してください。おそらく、言葉遣いから、相手がチャットボットなのか人間なのかを判断できたはずです。私たちは、何が自然に聞こえるか、そして本物の人々がどのように話し、書くかを本能的に知っています。
ほとんどの人は、断片的な形でメッセージを送る傾向があります。そのため、返信がすべて完全で堅苦しい文章ばかりであれば、それはおそらく兆候です。同じ回答が何度も返ってくる場合や、異常に速い返信が来る場合も同様です。LOL（笑）と打ったり、絵文字だけでやり取りしたりする場合でも、人間は伝えたい内容を作成して送信するのに、一瞬より長い時間をかける傾向があります。特に、まだ存在しない絵文字を探しているときはなおさらです。
サイバーセキュリティに関して世界経済フォーラムが取り組んでいること
サイバーセキュリティセンターは、進化するサイバーリスクとその システミックな影響を理解するために、リーダーが集う信頼できるプラットフォームを提供しています。相互につながりを深めるデジタル社会において、理解と信頼の構築に注力しています。
セクターを越えた協力と知見の共有を可能にすることで、同センターはパートナーがサイバーレジリエンスを強化し、集団的な対応を必要とする課題に取り組めるよう支援しています。
リーダーは何をすべきか？
ディープフェイク攻撃は、おそらくこれまで経験した中で最も不吉なものです。なりすまされている人物をよく知らない場合、それが偽物だとどうして分かるでしょうか。私にとって、これは組織にとって、既存のサイバーセキュリティ対策以上に重要な責任を課すものです。
これは、財務上またはその他の重要な経営判断を行う権限を持つすべての人にとって、従業員に対して非常に誠実な形で自らを明らかにすることを意味します。それは、現場に出て人々と対話し、職場に身を置き、互いに耳を傾け、自分が本当はどのような人物なのかを感じ取ってもらうことを意味します。何かを隠したり、自分ではない何者かになろうとしたりしないことを意味します。そして、たとえ権威ある筋から来たように見えても、おかしいと感じることに疑問を持てるよう、人々が安心できる、真の開放性の文化を育むことを意味します。
このようなアプローチの利点については、すでに多くの研究で示されています。従業員があなたの本当の姿をよく知るほど、偽者にだまされるリスクは小さくなります。なぜなら、模倣者は巧妙であり、ディープフェイクは説得力を持つように作られていますが、結局のところ、それらは本物ではないからです。本物は私たちです。
