著名人のディープフェイク音声は民主主義を揺るがす可能性がある。
私たちは、過去の音響技術と同様に、AIによる音声合成を創造的表現に用いるとともに、偽情報や疑念を広めるためにも利用している。
AIで生成されたコンテンツの悪用を抑制するために、何ができるだろうか。
投票しようと考えていた政治家が、選挙を盗む方法を密かに話し合っているのを耳にしたら、どう反応するだろうか。あるいは、冷静な候補者が下品な言葉で癇癪を起こすのを耳にしたら、どうだろうか。考えは変わるだろうか。投票先を変えるだろうか。最近、スロバキアの陰謀を企む政治家と怒る英国の野党党首の音声が出回った際、私たちはもっと注意深く耳を傾けるべきだった。合成音声、すなわちディープフェイクは、彼らの口に言葉を押し込んでいる。
新しい合成音声は、生成AI（人工知能）の産物である。音声サンプルで学習させ、話すべき台本を与えて作られる。もちろん、コンピューターが生成する音声がすべて悪いわけではない。スティーブン・ホーキングは宇宙を伝えるための声を見つけ、ヴァル・キルマーは癌で声を失う前に録音された音声で学習したAIを用いて、『トップガン マーヴェリック』でセリフを届けた。しかし、ホーキングとキルマーは、その声の使用を許可し、何を話すかを管理していた。
ディープフェイク音声は人を欺く力を持つ
私たちは、音を操作・共有するために設計された技術を悪用してきた実績がある。世界の指導者になりすました人物が、いたずら電話で政治家を日常的に困惑させている。しかし、声は思想に信頼性を与えたり、本来しないような行動を取るよう説得したりするためにも乗っ取られうる。第二次世界大戦の終盤、ウィンストン・チャーチルがドイツ軍の部隊移動を遅らせたいと考えた際、彼は黒い宣伝の工作チームに頼った。二人の説得力のある模倣者がケルン放送局を乗っ取り、同局のアナウンサーを装って市民を通りに押し寄せさせた。しかし、親しみのある声を真似るには技術と時間が必要であり、説得力のある物真似師は、これまで希少な資源であった。今は違う。合成音声はクローンを作られ、休むことなく、私たちが与えるものを何でも繰り返すことができ、たった一人の聴衆に合わせてメッセージを調整することさえできる。AIは、私たちがこれまで経験したことのない規模と速度で人になりすますことができる。
ジョー・バイデンやドナルド・トランプの既製の声は、FakeYouのようなコミュニティサイトにすでに存在しており、誰でも好きなことを言わせることができる。欲しい声がなければ、誰かが一日で25ドルで作ってくれる。厳しい精査に耐えるリアルな声には、より多くの時間と専門知識が必要であり、不自然な箇所を取り除くための高度なAIも必要となるが、私たちが十分に注意を払っていない場合には、それはやりすぎかもしれない。
音声には、私たちの防御を下げる独特の力がある。2020年、匿名の香港の銀行支店長は、顧客の一人から電話を受けた。彼が よく知っている男性で、その声もよく知っていた。顧客は買収を完了させるために3,500万ドルの送金を求めた。支店長は送金を行った。彼は合成音声にだまされていたのだ。親しい人物を機械だと疑うまでに、通話はどこまで続けばよいのだろうか。
音声はますます説得力を増しており、学習に必要な努力は減少している。マイクロソフトは、同社のVALL-Eサービスが3秒間のサンプルから音声を生成できると主張している。何千もの既存の音声ライブラリー（その多くは著作権の切れたオーディオブックに基づく）の中から最も近いものを見つけ、それをサンプルに似せて調整する。音声が増えるほど、より近い一致が得られ、AIが必要とする燃料、すなわちその出来栄えに関するフィードバックを提供するユーザーも増える。
私たちは、聞いたものをどうすれば信頼できるのだろうか。
予防は治療に勝る。マイクロソフトはVALL-Eを公開していない。また、商用利用向けに合成音声を生産する企業の数が増えつつあるResemble AIは、声をクローンする前に、元の話者に同意を録音で示すことを求めている。しかし、業界全体を誰が監視するのか。また、それは、言論の自由を貶めたり封じ込めたりすることなく、あるいは、言うべきでないことを言っている姿が正当に録音された人物に、もっともらしい否認の余地を与えることなく、実現できるのだろうか。
2023年1月、中国は、サービスプロバイダーが「ディープシンセシス（深層合成）」コンテンツにラベルを付け、監視するために従うべき規則を導入し、G7諸国は拘束力のない行動規範を発表した。両者とも具体性には乏しいものの、重要な前進である。
聞き取れない電子透かしを合成音声ファイルや学習データに埋め込み、アップロード時に悪質な偽造物を検出することは可能である。Resemble AIの検出サービスは、英国の音声クリップが偽物であると判断するのにわずか200ミリ秒しかかからなかった。しかし、ソーシャルメディア企業は、利用者が投稿する際の摩擦を生じさせることを常に嫌がっている。Resemble AIのCEOであるゾハイブ・アハメドは、解決策を「AIのためのアンチウイルス」と捉えており、「これらの配信チャネルだけでなく、オペレーティングシステムそのものにも埋め込まれる、この隠れた仕組み」と述べている。彼は、接続が信頼できるかどうかを利用者に明確に示す、SSLと鍵のアイコンになぞらえている。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか。
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解するための場を提供している。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援している。
信頼できる場と協力的な取り組みを通じて、同センターはパートナーが共通の理解を築き、AIのイノベーションと利用に対する責任ある取り組みで協力できるよう支援している。
TikTokは最近、コミュニティガイドラインを更新し、公的人物が「政治的または商業的な推奨、あるいはその他の当社ポリシー違反に利用される」AI生成コンテンツを禁止した。しかし、偽物がすり抜けた場合、拡散する前に削除またはフラグを立てる競争になる。その結末は私たちがよく知っている。
世界人口の40%を合計で占める40カ国で、米国、英国、インドを含む選挙まで あと1年となっており、危険なシナリオは容易に想像できる。指導者が選挙を盗んだと自白したらどうなるだろうか。報道機関は騙されないかもしれないが、ソーシャルメディアは火に油を注ぐだろう。スロバキアの情報漏えいは、投票の直前の2日間にわたるメディアの報道規制の最中に起きた。真実が靴を履く間もなく、嘘は世界の半分を駆け巡っていた。偽のクリップに指導者が登場したスロバキア進歩党は選挙で2位となったが、あらゆる偽情報キャンペーンと同様に、音声が結果に与えた影響は測定が難しい。
私たちの声を弄ぶ合成音声を抑制するサービスや政策が定着するのを待つ間、制作者と配信者は、私たちが耳にするものにどれほど影響されているかを認識し、私たちがより批判的に聞けるよう支援する必要がある。「見たものは何も信じるな、聞いたものは半分だけ信じよ。」しかし、どちらの半分だろうか。
