デジタル化を統治する上での3つの重大な課題

• 社会と民主主義を損なう技術の無責任な利用に異議を唱えなければなりません。
  

• 私たちは新たなデジタル産業時代に入りつつあり、進路を変え、より透明で民主的な技術の時代を切り開く機会を得ています。
  

• 世界的な技術ガバナンスは政治的アクターだけでは実現できず、テック・コミュニティにおける草の根運動も必要とします。

2021年1月6日に米国議会議事堂で起きた暴徒による襲撃は、政治史上だけでなく、技術ガバナンスにおいても転換点となりました。

襲撃のずっと以前から、ソーシャルメディア・プラットフォームとそのアルゴリズムは、陰謀論、虚偽情報、ヘイトスピーチ、扇動政治を増幅させる中心的な役割を果たしてきました。しかしワシントンD.C.での出来事によって、現代の技術を私たちがどのように操縦し、活用し、規制するかが、個人および経済生活に深刻な影響を及ぼすことが明白になりました。テック・ガバナンスは、社会と民主主義にとって存亡に関わる問いです。それは国家および世界の安全保障、そして社会の平和と進歩にかかわる問題なのです。

私たちが特に行わなければならないことは3つあります。エンゲージメントと収益を生み出すために極端な意見を増幅させるビジネスモデルとアルゴリズムを精査すること、デジタル・プラットフォームがオープンであり、経済全体でイノベーションを促進するようにすること、そして自律システムや人工知能（AI）にどこまで主導権を委ねるつもりかを決定し、最終的な責任を負い、説明責任を問われるのは機械ではなく人間であることを確実にすることです。

1. 人間の価値を損ない、社会を分断するビジネスモデルを精査する

現代の技術とデジタル化について語る際には、2つの大きな波を区別すると有益です。最初の大きな波は1990年代に始まりました。それによりスマートフォンやタブレット、常時接続のインターネット、手軽なオンラインショッピング、そしてエンターテインメントがもたらされました。これほど多くの消費者が、これほど大量の情報に容易にアクセスできたことはかつてありませんでした。これほど多くの人々が、これらの技術が可能にする方法でグローバルな機会を活用し、自らの声を届けられたことも、かつてありませんでした。

しかし、このデジタル化の第一波の特徴は、問題の多いビジネスモデルによって推進されてきたことが、あまりにも多くありました。電子メール、クラウドストレージ、インスタントメッセージングを例に挙げると、わずか3つの例ですが、そうしたデジタル・サービスには直接的な金銭的料金が伴わないため、消費者は、これらのサービスが「無料」であるという印象を持たされています。しかし実際にはそうではありません。利用者は金銭で支払うのではなく、別の貴重な資源、すなわち個人データで支払っているのです。そして多くの場合、利用者は自分がそうしていることに気づいていません。オフラインの世界では、郵便配達員が手紙を郵便受けに入れる前に開封して読んだら、私たちは憤慨するでしょう。しかしオンラインの世界では、そうした基本的な人間の価値を忘れてしまっているようです。

ソーシャルメディア・プラットフォームでは、「無料」サービスの問題はさらに大きくなりました。ソーシャルメディア上で私たちが目にするものを決定するアルゴリズムは、「いいね」、「シェア」、「コメント」などを促進し、エンゲージメントを高めるようにプログラムされてきました。なぜでしょうか。エンゲージメントはトラフィックに等しく、トラフィックはデータに等しく、データは収益に等しく、そして多くの場合、それは巨額の利益に等しいからです。

エンゲージメントを生み出す最も効果的な方法の一つが、政治的スペクトラムの周縁に見られるような極端な声を増幅させることであることが分かっています。こうしたネットワーク上では、衝撃的で、強烈で、虚偽の主張が特に速く拡散することを示す証拠が増えています。アルゴリズムがまさにそのように設計されているからです。

確かに、ソーシャルメディアが台頭するずっと以前から、極端な声は存在していました。しかし問題はそれらの存在ではありません。問題は、ソーシャルメディアのアルゴリズムがそれらを大規模に宣伝し、ますます極端な立場が現代の公共の議論の中心に躍り出ることを許していることなのです。

「無料」サービスという根本的な誤りは、社会に極めて深刻な結果をもたらしてきました。この誤りを正すことは、今日のテック・ガバナンスにおける最も重要な問いの一つかもしれません。一見「無料」に見えるビジネスモデルに異議を唱え、プライバシーのような基本的な人間の価値を中心にアルゴリズムが設計されるようにする必要があります。

先ほどの比喩に戻りましょう。郵便配達員が私の手紙を開封しないと信頼できる理由は、私が切手代を支払っているからです。彼の存在は、私の個人情報を学習して売ることに依存していません。この単純な真実から正しい結論を導き出すのは、私たち次第です。

2. オープンなプラットフォームを構築する

デジタル化と技術革新の第二波は2010年代初頭に訪れ、COVID-19のパンデミック中に大きく加速しました。この第二波は、産業界のデジタル化、すなわちデジタル製造、データ駆動型のヘルスケア、インテリジェントビルディング、スマートシティなどに関するものです。産業のデジタル化は現代生活を支えるインフラそのものに影響を及ぼすため、その賭け金は第一波よりもさらに大きくなっています。

今回は、個人データと引き換えに提供される「無料」サービスが、それほど大きな問題ではありません。結局のところ、産業システムは自らのデータを手放すよう簡単には説得されません。しかし、ほかにも重要な課題があり、プラットフォーム・ガバナンスはその一つです。

デジタル・プラットフォームは、人類がこれまでに築き上げた最も強力なツールの一つであり、新技術のコストを引き下げることに優れています。デジタル化の恩恵を大衆に、そして世界規模で行き渡らせています。

これまでのテック・ガバナンスには、主に2つのアプローチがありました。民間企業がデジタル・プラットフォームを急速に大規模化することを許す自由放任型のアプローチと、政府がプラットフォームを管理または厳格に監視するアプローチです。皮肉なことに、両者はいずれも似た結果に至ります。すなわち、データへのアクセスを自社の条件に基づいてのみ認める閉鎖的なメガ・プラットフォームが生まれ、権力と富が集中するのです。

オープン性、相互運用性、分散化、データ共有に基づく、プラットフォームへの異なるアプローチは、はるかに良い結果とより多くのイノベーションをもたらす可能性があります。経済的な恩恵をより均等に社会全体に広げる、分散型のイノベーション・ネットワークを促進することができるでしょう。

強固な産業の伝統とデジタル製造におけるノウハウを持つ欧州は、そのような新たなアプローチの先駆けとなり得ます。Gaia X は、ドイツとフランスが立ち上げ、ますます多くの欧州のパートナーが支援しているものであり、この方向性における取り組みの一つです。

Gaia Xは、ネットワーク化されたプラットフォーム間の連携型データ交換の青写真を提供します。データ保護とデータセキュリティについて厳格な基準を定め、データのポータビリティには既存の標準を用いています。その主な狙いは、デジタル・プラットフォームの「ゲートキーパー・モデル」を「データ共有モデル」に置き換えることです。このモデルでは、すべての関係者がデータにアクセスしてデータを交換し、その上で革新を行う機会を平等に得られます。このようなプラットフォームの連携型データ交換は、企業間の競争条件をはるかに公平にし、新興企業や中小企業におけるイノベーションを促進することができます。

3. AIの利用における透明性を促進する

デジタル化の第二波におけるもう一つの重要な課題は、人類の利益のために自律システムを活用すること、そして重要なシステムに対する人間による監督を確保することです。

今日では、AIはもはや単にスマートフォン上のデジタルアシスタントを動かしているだけではありません。むしろ、ヘルスケア、モビリティ、建物、工場など、私たちの社会生活と経済生活の重要な側面に、電子的な知能が組み込まれつつあります。既に今日においても、AIは公共交通システムにおける遅延の削減と稼働率の向上を実現できます。建物や都市のエネルギー使用の最適化と削減に役立てることもできます。そして、人体の医療スキャンを分析し、放射線科医が正しい診断にたどり着くのを支援することもできます。

ユヴァル・ノア・ハラリが論じたように、AIは実際には「地球上で最も賢いアルゴリズム」という地位において、人間に取って代わる可能性があります。それは大胆な主張ですが、私たちが見て見ぬふりをすべきではないものです。むしろ、どの分野でAIを利用する意思があり、その支配権をどの程度手放す意思があるのかについて、非常に明確な理解に到達する必要があります。

消費者向けのインテリジェントなアルゴリズムは、しばらく前から私たちの身近にあります。例えば、ストリーミング・プラットフォームで映画を推薦したり、オンラインで買い物をする際に関連商品を推薦したりします。これらのアルゴリズムは、私たちの生活や社会にも影響を与えているにもかかわらず、これまでのところ、さほど厳しい精査は受けていません。

しかし、AIが住宅ローンの申請を審査し、自律走行車を誘導し、医療上の判断を推奨するなど、私たちの経済と日常生活の基盤そのものの一部となりつつある今、これまで以上に詳細に検討しなければなりません。こうした文脈において、AIがどこで、いつ、どのように利用されているかを正確に把握すべきです。結果の透明性は極めて重要であり、人間が介入し、全体的な責任を負える可能性も同様に重要です。

草の根への訴え

テック・ガバナンスは、デジタル化の第一波と第二波がもたらす主要な課題と影響に対処するための強力な手段です。しかし、イノベーションの猛烈なペースを考えると、「トップダウン」で十分な速さで統治できないことも多いでしょう。健全な人間の道徳的羅針盤に基づく、「ボトムアップ」のガバナンスも必要になるのです。

Tech for Life運動は、2018年に開始されたもので、このボトムアップ・アプローチそのものです。いわばテック・コミュニティのための行動規範です。それは、組織内の階層がどこにあろうとも、価値観を実践に移すことにかかわります。その価値観とは、目的、公正、多様性、社会的責任、オープン性、信頼などです。その目指すところは、すべての関係者が技術を社会的に責任ある方法で利用するよう促すことであり、それは、働く場所を問わず、言行一致を実践することによって実現されます。

このような文化の変革は、賢明なテック・ガバナンスと相まって、現代の技術の台頭を、社会、民主主義、そして人類にとって真の成功に変えることができます。私たちには、2021年1月6日を、物事が良い方向に変わった瞬間として記憶する機会があります。この機会を逃さないようにしましょう。