人工知能は医療、テクノロジーなどさまざまな分野の発展に不可欠ですが、データプライバシーがどのように規制されているかについて懸念があります。
技術の進歩に対する人々の信頼を得るには、データプライバシーが欠かせません。
データプライバシーは、消費者データに基づく人工知能（AI）モデルと結び付けて語られることがよくあります。ユーザーが、自分のデータを取得して利用する自動化技術に警戒するのは当然です。そこには機微な情報が含まれる場合もあります。AIモデルは重要な結果を生み出すためにデータの質に依存するため、その存続には、設計にプライバシー保護を組み込むことが欠かせません。
優れたプライバシー保護とデータ管理の実践は、顧客の不安や懸念を払拭するだけのものではありません。企業の中核的な組織価値、業務プロセス、セキュリティ管理にも深く関わっています。プライバシーの問題は、これまで広く研究され、報道されてきました。また、当社のプライバシー意識調査のデータは、プライバシー保護が消費者にとって極めて重要な関心事であることを示しています。
こうした懸念に状況に応じて対処することが重要です。消費者向けAIを扱う企業には、人工知能に関連してしばしば生じるプライバシー上の懸念を解消するための方法や手法がいくつもあります。
データを必要とする製品やサービスもありますが、誰かのプライバシーを侵害する必要はありません
人工知能を扱う企業は、プライバシーの面で、すでに世間から不利な目で見られています。欧州消費者機構によると、2020年の調査では、欧州の人々の45～60％が、AIによって個人データの悪用が増えると考えていることが示されました。
多くの人気オンラインサービスや製品は、AIアルゴリズムの学習や改善に大規模なデータセットを利用しています。プライバシーをあまり意識しないユーザーであっても、そのデータセットの一部をプライベートな情報とみなす可能性があります。ネットワーク、ソーシャルメディアのページ、携帯電話、その他のデバイスから流れるデータが、企業が機械学習システムの訓練に使う情報量を押し上げています。一部の企業による個人データの過剰な利用や不適切な管理を受け、プライバシー保護は世界各地で公共政策上の課題になりつつあります。
AIを活用したプロセスの改善に向けて、機微なデータの多くが収集されています。分析されるデータが増えている背景には、機械学習の導入もあります。高度なアルゴリズムは、こうしたデータセットに基づいてリアルタイムに意思決定する必要があるためです。検索アルゴリズム、音声アシスタント、レコメンドエンジンは、実世界のユーザーデータの大規模なデータセットに基づくAIを活用したソリューションの一例です。
大規模なデータベースには幅広い種類のデータが含まれる可能性があり、特に深刻な問題の一つは、そのデータに個人を特定できる情報や機微な情報が含まれ得ることです。実際、アルゴリズムに意思決定を学習させるために、データが誰に関するものかを知る必要はありません。したがって、こうした製品を提供する企業は、元データからユーザーを特定できる手段をほとんど、あるいはまったく残さず、データセットのプライバシーを確保することに注力すべきです。また、リバースエンジニアリングや個人の特定を防ぐため、アルゴリズムから例外的なケースを取り除く措置も講じるべきです。
データプライバシーと人工知能の関係は、非常に微妙で複雑です。アルゴリズムによってはプライベートなデータが避けられない場合もありますが、より安全で侵襲性の低い方法で利用する手段があります。以下に挙げるのは、プライベートなデータを使う企業が解決策の一端を担う方法の一部です。
データプライバシーを念頭に置いた人工知能の設計
悪意ある行為者がAIモデルの脆弱性を見つけ、モデルの出力から重要な情報を推測するリバースエンジニアリングの問題については、すでに触れました。こうした課題に直面する用途でAIを使うには、データベースや学習データを変更し、改善し続けることが重要です。
たとえば、機械学習の過程で相反するデータセットを組み合わせる（敵対的学習）ことは、AIアルゴリズムの出力にある欠陥や偏りを見分ける有効な方法です。実際の個人データを使わない合成データセットを利用する選択肢もありますが、その有効性は依然として議論の余地があります。
医療分野は、AIとデータプライバシーをめぐるガバナンスを主導しており、とりわけ機微な個人データの取り扱いに力を入れています。医療行為やデータの取り扱いに関する同意についても、多くの取り組みを進めてきました。リスクが大きく、法的な規制も設けられているためです。
AI製品やアルゴリズム全体の設計に関しては、ユーザーデータをAIモデルの訓練に使う企業にとって、匿名化や集約によってデータとユーザーを切り離すことが鍵となります。
AI企業のプライバシー保護を強化するために、検討すべき点は数多くあります。
プライバシーを中核に据える：開発者がプライバシー保護を意識できるようにし、セキュリティを効果的に強化する方法を見つける
データセットを匿名化・集約し、個人識別子と固有のデータ項目をすべて削除する
社内で特定のデータセットにアクセスできる人を厳格に管理し、データへのアクセス状況を継続的に監査する。これが過去に一部のデータ侵害の原因となったためです
データは多ければよいとは限りません。データを最小限に抑えてアルゴリズムをテストし、用途を成立させるために収集・処理すべきデータの最小量を把握する
ユーザーの要請に応じて個人データを簡単に削除できる仕組みを整えることが不可欠です。ユーザーデータを仮名化するだけの企業は、常に最新のデータを使ってモデルを再訓練する必要があります
完全な匿名化を施した集約データセットや合成データセット、アルゴリズムの訓練・監査・品質保証などに使う復元不可能な識別子を含め、強力な匿名化手法を活用する
第三者から重要な情報を取得・利用する方法を見直し、ユーザーの自律性とプライバシーの両方を守る。データソースを注意深く調べ、ユーザーが明確かつ十分な説明を受けたうえで同意してデータを収集しているものだけを利用する
リスクを検討する：攻撃によって、AIシステムの出力からユーザーのプライバシーが脅かされる可能性はあるでしょうか。
データプライバシーとAIの未来はどうなるのでしょうか。
AIシステムには大量のデータが必要で、評価の高いオンラインサービスや製品の中には、AIアルゴリズムの訓練に使う個人データなしでは機能しないものもあります。それでも、データの取得、管理、利用には、アルゴリズムそのものやデータ管理全体を含め、改善の余地が数多くあります。プライバシーを尊重するAIには、プライバシーを尊重する企業が必要です。
