より責任あるデジタルの未来をどう築くか

A man programs an iPal Companion Robot by Nanjing Avatar Mind Robot Technology at the 2017 World Robot conference in Beijing, China August 22, 2017. REUTERS/Thomas Peter
Creating ethical machines is essential in order to prevent technology undermining basic human values.Image: REUTERS/Thomas Peter
このページは、生成AIにより自動翻訳されています。

ビッグデータ分析、人工知能(AI)、ロボット工学、モノのインターネット、ブロックチェーン、3Dプリンティング、仮想現実などの革新が社会や経済の仕組みを変えるなか、世界は技術革新の波に揺さぶられています。これらの技術はそれぞれ単独でも、既存の製品やサービス、それらを支えるネットワークを変革する可能性を秘めています。すべてが組み合わされば、従来のビジネスモデルや制度を覆し、経済、社会、政治の歴史に新たな時代を告げるでしょう。私たちはどう応えるのでしょうか。

大きな経済変革は、通常、広範囲に及ぶ変化をもたらします。18世紀から19世紀にかけての第一次産業革命では、新たな製造工程がやがて人々の幸福に大きな向上をもたらしました。生産性が高まるにつれ、賃金と生活水準も上昇しました。しかし、その初期には機械化が失業、児童労働、環境破壊などの悪影響をもたらしました。

デジタル革命の社会的、政治的影響は、さらに劇的なものになる可能性があります。戦争や革命が勃発し、人権や市民的自由といった価値が損なわれるかもしれません。私と同僚が最近の記事でサイエンティフィック・アメリカンに記したように、情報に関する自己決定が不可能である限り、コンピューターが私たちについて知ることが増えるほど、「私たちの選択が自由で、他者によってあらかじめ決められていない可能性は低くなる」のです。

幸い、個人の自律性の喪失は避けられないわけではありません。より責任あるデジタルの未来を築くことは可能です。しかし、今すぐ始めなければなりません。成功には、公共の議論、デジタルに関する啓発と解放、そしてテクノロジーのリスクに対する幅広い認識が必要です。言い換えれば、私たちが直面する移行は、どの国や組織も単独では成し遂げられないほど大きなものです。私たち全員にかかわるものがあります。私たちの未来です。

技術の進歩だけにこの変化を主導させることには、明らかな危険があります。2008年、ワイアード誌の編集者クリス・アンダーソンは、こう提唱しました。ビッグデータによって、科学や理論を必要とせず、いずれあらゆる真実が明らかになるというのです。明らかに、そうはなっていません。科学者は、より多くのデータを手にすることで、研究対象となるパターンをさらに見つけます。どのパターンが意味を持ち、どれが誤解を招くのかを判断するには、科学が必要です。偏見など人間の弱点をAIが克服するという期待も、実現には至っていません。今日、多くのAIシステムは人々を差別し、操作されることさえあります。

新たな「デジタル社会」をめぐるその他の予測も、同じように的外れでした。都市生活を自動化する、いわゆるスマートシティは、これまでのところ期待に応えられていません。都市は巨大なサプライチェーンにすぎないのではなく、実験、創造性、イノベーション、学習、交流の場でもあるからです。

最後に、「プラットフォーム経済」は、インターネット、コンピューティング、データに依存し、世界有数の価値を持つ企業を生み出しましたが、多くの市民を受動的な消費者にも変えてきました。過剰につながる社会の皮肉は、人々が購入する製品だけでなく、消費する情報についても吟味しなくなっていることです。結局のところ、「フェイクニュース」を生み出したのは、この「アテンション・エコノミー」なのです。

端的に言えば、デジタルのユートピアは何もしなくても訪れるものではありません。私たちには、より倫理的なテクノロジー設計のアプローチが必要です。憲法上、文化的、道徳的な規範や価値を、人工システムや自律システムに組み込むアプローチです。スマートデバイスから、政府や市場を支えるソフトウェアまで、技術開発のあらゆる側面で「倫理に沿い」「価値に配慮した」設計が求められます。1

たとえば、民主主義を実行可能な政治モデルとして維持するには、民主主義国家が利用する情報システムを、人権、尊厳、自己決定、多元主義、責任の分担、透明性、公平性、正義を支えるように設計しなければなりません。

この民主的なデジタルの未来を実現するには、世界がテクノロジーに対する考え方を変える必要があります。世界経済の誰もがアイデア、人材、資源を提供できるようにする、開かれた参加型の情報エコシステムを築かなければなりません。私たちのあらゆる行動が他者に影響するネットワーク化された世界では、自分のことだけでなく、協力、共創、共進化、集合知を追求する考え方を身につける必要があります。

この方向に進めば、第四次産業革命は第一次産業革命よりも包摂的なものになり得ます。それこそ、私と同僚が目指している未来です。たとえば、オランダのデルフト工科大学では、社会的責任を果たすコミュニケーションネットワークと都市ガバナンスシステムを設計しています。一方、研究者の国際ネットワークであるFuturICTイニシアチブは、学際的なアプローチで技術開発に取り組んでいます。どちらの研究も、より公平なデジタルの未来を実現することを目指しています。

私たちには、私たちを支配するのではなく、役立つテクノロジーを設計する力があります。しかし、その未来を築くには、新たなデジタルの時代精神が必要です。社会的、文化的、環境的、倫理的な価値を設計プロセスに取り入れる時代精神です。革新や革命はしばしば人々を動揺させ、激動をもたらしますが、デジタル時代には責任ある形で進めることもできます。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。