音声技術は、大手企業、スタートアップ、政府、公共部門の関係者によるツールやサービスへの統合が進み、ますます広く普及しつつあります。
しかし、これらのツールが広く一般の支持を得るためには、これらの関係者が、人権を尊重しつつ信頼できる方法で使用されていることを示す必要があります。
大手テック企業はその価値を明確に認識しており、広告や製品レコメンデーションのために音声データを収集する新たな能力の開発を続けています。テック大手の特許出願もこの動向を反映しており、その中には次のようなものがあります。Amazonの新たな特許出願では、「音声スニッファーアルゴリズム（voice sniffer algorithm）」について説明されています。これは、「love（大好き）」「bought（購入した）」「dislike（嫌い）」などの言葉を耳にした際に、ほぼリアルタイムで音声を分析するために、さまざまな機器で使用できるというものです。Googleも、スマートホームの文脈において音声や映像の信号をどのように活用できるかを説明する特許出願を行っています。これは日常業務の簡素化に役立つ無害で有益なものにも見えますが、個人データへのアクセスや利用に深刻な影響を及ぼす可能性もあります。
によると PwCが2018年に発表した報告書によると、今後音声による買い物をする予定がないアメリカ人の25%のうち、90%を超える人々が、信頼の欠如が理由の一つであると述べています。こうした統計は、この技術が個人の期待に反して使用された事例が広く報じられていることによって裏付けられ、強化されています。例えば、夫婦間の私的な会話の録音が夫の従業員に送信された事例は、全国的なニュースメディアで報じられました。ほとんどの専門家はバーチャルアシスタントの成長軌道を前向きに予測していますが、この信頼のギャップは、真に普遍的な普及を妨げる可能性が高いと考えられます。
信頼性と音声技術の問題の中核には、対処が必要な3つの基本的な課題があります。データ保護と透明性、プライバシー、そして詐欺です。
データ保護と透明性
音声技術の開発と利用には、膨大なデータが関わっています。人が インターフェースに向けて話す言葉は、収集、分析、そして（場合によっては）保存される情報の中で最も明白なものかもしれませんが、それ以外にも考慮すべきいくつかのカテゴリーがあります。これには、取得される背景雑音、メタデータ、生体データや声紋、派生データ（例えば、声の抑揚や音程に基づいて判定できる感情情報）が含まれます。さらに、音声アルゴリズムの開発と学習のために収集されるデータ群も忘れてはなりません。
データ保護の基本原則は長年認識されており、公正情報慣行（Fair Information Practices）に体現されています。EUの一般データ保護規則（GDPR）など、世界各地の法的枠組みは、これらの原則を体系化し、拡張してきました。多くの場合、違反に対しては厳しい罰則が科されます。アメリカのイリノイ州を含む一部の法域では、声紋などの生体情報を特に対象とする法律も制定されています。これらの枠組みは、音声駆動型ツールを利用する人々に基本的な保護の水準をもたらしますが、それだけでは不十分であることも少なくありません。
こうした法的要件を補完するため、プライバシー工学の分野の専門家は、データ保護をツールやサービスに組み込むための実践的なアプローチを開発してきました。加えて、アメリカの国立標準技術研究所（NIST）は、プライバシーフレームワークを策定中です。このフレームワークは、法令遵守の概念を超えるものとなる可能性が高く、音声情報を含む情報収集の増加に関連する潜在的な脅威にアプローチし、それを軽減するための共通言語を提供するものと考えられます。
「プライバシー・バイ・デザイン」を尊重する形でツールを構築することにより、組織は当初からデータ保護を適切に考慮できます。その一例が、音声データ保護のための分散型ソリューションとしてのブロックチェーンの導入です。また、フランスのスタートアップSnipsは、この分散化の考え方に沿って、クラウドから独立し、100%デバイス上で動作するソフトウェアを開発しています。主流の中央集権型バーチャルアシスタントとは異なり、Snipsはユーザーに関する情報を一切把握しません。
プライバシーとセキュリティ
音声技術の利用を通じて収集されるデータが増えるほど、情報が政府に開示されたり、悪意のある主体によって侵害されたりするリスクも高まります。特に、音声データに特化した人権がまだ定義されていないことを考えると、この点は極めて懸念すべきものです。
「プラットフォームが生体情報を保存する限り、政府によるアクセスや開示の要求に対して脆弱になります」と指摘するのは、スタンフォード大学インターネット・社会センターのプライバシー部門ディレクター、アルバート・ギダリです。政府機関がその情報を使って何をできるかには、潜在的に際限がありません。一例として、アメリカ国家安全保障局（NSA）では、ピッチ、口の形、喉頭の長さなど、一人ひとりの声を特徴づける身体的および行動的特徴を分析する技術が存在することが最近明らかになりました。アルゴリズムは、個人の声の特性、すなわちその人の声紋を、動的なコンピューターモデルとして作成します。
世界的にも、政府レベルで同様の議論が行われています。イギリスの税務当局であるHMRCは、新たな音声識別ポリシーの一環として、510万人の納税者の声紋を収集しています。権利擁護団体は、HMRCのシステムが、オプトアウトの方法を示すことなく、ユーザーに繰り返し「音声ID」の作成を求めていると報告しています。中国では、政府が音声データを他の生体データや追跡技術と組み合わせて使用し、少数民族コミュニティを標的にして監視しているとされています。
このデータが存在すること自体が、悪意のある主体にとっての新たな攻撃対象領域ともなります。大規模なデータ漏えいが毎週のように報じられる中、音声データのデータベースへの不正アクセスの脅威は、計り知れない損害をもたらす可能性があります。特に、企業が個人アカウントへのアクセスにおけるユーザー認証のために、この種の生体データにますます依存するようになっていることから、その危険性は高まっています。
こうした分野において指針を提供するため、国際法と政策が形成され始めています。「必要性と比例性の原則（Necessary and Proportionate principles）」は、政府による個人情報へのアクセスを制限するための権利に基づく枠組みを提供していますが、これを採用している国はまだ少数です。デジタル・ジュネーブ条約（Digital Geneva Convention）は現在、民間部門による草案段階の取り組みです。一方、公共部門の勢力は、市民的及び政治的権利に関する国際規約（ICCPR）第17条に基づくプライバシーの権利について、国連人権委員会に新たな一般的意見を発出するよう働きかけています。また、サイバー犯罪に関するブダペスト条約も、この問題に強い関心を寄せています。
生体情報を含むこれらの種類の個人データを保護するため、国家レベルでの監視およびサイバーセキュリティに関する法律や政策を、より多く、より良いものにする必要があることは明らかです。
詐欺
ディープフェイクや詐欺は、オンライン動画の分野で既に急増している問題であり、アメリカの議員も、音声分野における同様の問題について既に警鐘を鳴らしています。
詐欺は音声技術において拡大しつつある問題であり、2013年以降、さまざまな業界で音声詐欺の発生率が350%以上増加しています。現在では、検出されずに動画を改変することを可能にする同じディープラーニング技術を使って、実在の人物のように聞こえる音声クリップを作成することも可能になっています。
世界中の大手テクノロジー企業が、誰の声でもクローンできる技術の開発を進めています。例えば、中国企業バイドゥが開発した「Deep Voice」AIアルゴリズムは、わずか3.7秒で誰の声でもクローンできます。1年の間に、新たな偽の動画を作成するのに約30分を要した技術が、現在では数秒で済むまでになっています。
一方で、詐欺を防ぐ必要性は、新たな技術革新にもつながっています。例えばPindropは、最近9,000万ドルを調達したスタートアップで、音声詐欺防止の技術をIoT機器およびヨーロッパ大陸に提供しています。同社は、約1,400の音響的属性を分析することで、最も巧妙な偽造であっても識別でき、正当な音声ファイルを効果的に検証できると主張しています。
学術界も詐欺防止に力を注いでいます。MIT Technology Reviewは、次のように報じています。バークレーの研究者たちは、「波形に一層のノイズを加えることで、最先端の音声認識AIであるDeepSpeechを毎回だますことができる。この手法により、音楽をAIには任意の音声として聞こえるようにしたり、声を文字起こしされないように不明瞭にしたりすることが可能になる」としています。
音声駆動型プラットフォームにおけるプライバシーを確保し、バックエンドでデータセキュリティを提供し、詐欺のリスクに対抗するために取ることのできる措置があります。これには、一般市民に情報を提供するため、情報へのアクセスと教育の機会を拡大することが含まれます。また、世界各国の学校制度において新たなカリキュラムを追加することも含まれるかもしれません。さらに、意味のある法整備と、官民の真の協力も必要です。
本記事は、Global Future Council on Consumptionを代表して執筆されました。
