テクノロジーは本当に中立であり得るのか?

A visitor carrying her baby looks at the "San John the Baptist" (L) and the "Madonna with Child", paintings by artist Marco D'Oggiono, and "Leda and the Swan" (R), a painting by artist Leonardo Da Vinci, during the "Masters of the Renaissance, Masterpieces from Italy" exhibition at the Bank of Brazil Cultural Centre in Sao Paulo July 13, 2013. The exhibition will run from July 13 to September 23. REUTERS/Nacho Doce (BRAZIL - Tags: SOCIETY) - GM1E97E0IME01
How much responsibility do we have for the products and platforms we create?Image: REUTERS/Nacho Doce
このページは、生成AIにより自動翻訳されています。

テクノロジーのルネサンスを始める時だ。人間の経験をより豊かなものにするため、ものづくりのあり方に道徳や美徳、そして人間性を取り戻す時だ。

Cloudflareの共同創業者兼CEO、マシュー・プリンスは、インターネット企業が自社のネットワーク上の不快なコンテンツにどう対応するかについて、次のように語った。

「私やジェフ[ベゾス]、ラリー[ペイジ]、サティア[ナデラ]、マーク[ザッカーバーグ]の気まぐれで、何をオンラインに載せるべきかが決まるべきではありません。私は、運営者がデイリー・ストーマーの人々は忌まわしいと思います。しかし、誰がインターネット上にいてよいかを、私の政治的判断で決めるべきではないとも考えています。」

なぜだろう?

政治的、道徳的な考えに基づいて、誰を顧客として受け入れるかを決めてはいけないのだろうか?

最近のシャーロッツビルでの事件をきっかけに、パンドラの箱が開かれた。テクノロジーの専門家、社会、政府は、人々がテクノロジー製品をどう使うかについて、難しい議論を迫られている。Twitter、Google、GoDaddy、そして最後にCloudflareが、激しいソーシャルメディア上の圧力(皮肉にも、それもテクノロジーによって広まった)を受け、必ずしも自らの意思ではなく、ネオナチのウェブサイトを閉鎖したことで、多くの疑問が浮上している。

「引き金を引いたのは私ではない」

プラットフォームや製品を何に使うか、誰が決めるのか。こうした問題において、道徳や価値観はどのような役割を果たすのか。

さらに、自殺率やテロリズム、インターネットやソーシャルメディアによって勢いづく組織的な人種差別が大幅に増加している。テクノロジーは本当に中立なのか。AIチャットボットが混乱し、怒りに満ちた偏見主義者になるのに24時間もかからないとき、それでも中立でいられるのか?

製品を生み出す側には、その製品に対する道徳的責任はないという主張を、私たちは信じるのだろうか。それは「引き金を引いたのは私ではない」という議論に似ている。銃について語るとき、銃が必要だと理屈づけ、個人には銃を所有し、自分で選択する権利があると言うことができる。

しかし、銃は人を殺すために設計された。中立的な製品ではない。かつて一度もそうだったことはない。

では、銃をどう使うかは誰が決めるのか。政府には大局的な規制を設ける責任があると言えるだろう。しかし実際には、銃会社のリーダー、つまり創業者、製造業者、設計者が、現場の判断を下している。

誰に販売するか、銃をどう宣伝し、どう流通させるかを彼らが決める。そうした選択は、自らの価値観に基づいて行われる。何よりも利益を重視するなら、たとえ相手がテロリストやギャングであっても、最も高い金額を提示した相手に売るだろう。

国への誇りや若者の安全をより重視するなら、そうした顧客を失うかもしれない。彼らの選択には、真に大切にしているものが表れる。

価値観と意図

一方で、テクノロジー企業の創業者は「世界をより良い場所にしたい」とよく語る。その一方で、製品を作り、それを使って人が傷ついても、テクノロジーは中立だと主張する。

価値観に形づくられる意図と道徳的責任を、どうすれば両立させられるのだろうか?

プリンスは、デイリー・ストーマーを閉鎖する決断をした。強制されたわけではない。自分の価値観が誤って伝えられていると感じたからだ。そしてCEOとして、誰を顧客として受け入れるかを選ぶ権利があった。彼は自ら選択した。

こうした議論を人間味のあるものにし、私たちが作る製品の価値観や意図について、より率直に、正直に話し始めたら、何が起きるだろうか?

おそらく、製品についてどう伝え、人々にどう使ってほしいかを、もっと意識するようになるだろう。誰に販売するか、また人々に応じてどう流通させるかについても、もっと慎重に考えるようになるかもしれない。

強制されるのを待つのではなく、自ら選択するようになるだろう。

誰もがコンテンツを作成できるモバイル学習・エンゲージメントプラットフォーム、Gnowbeの創業者として、プラットフォームを構築する中で、私はこうした問いを自分に投げかけている。

誰が私たちのプラットフォームを使うのか、どんなコンテンツを掲載すべきか、そしてどう宣伝すべきかについて、私にはどんな考えがあるのだろう?

ルネサンスの大きな部分を占めていたのは、道徳と美徳だった。

テクノロジーは、これまでにない速度と規模で私たちの暮らしを変えている。その影響は、従来の製品よりもはるかに大きい。

テクノロジーのルネサンスを始める時だ。人間の経験をより豊かなものにするため、ものづくりのあり方に道徳や美徳、そして人間性を取り戻す時だ。

人々の役に立つアプリを作り、ナイジェリアの詐欺師をテクノロジー起業家へと転身させるGbenga Sesanのような人が、もっと必要だ。

価値観に基づく

この動きはすでに始まっている。Facebook、Microsoft、YouTube、Twitterは、テロ対策パートナーシップを立ち上げた。

しかし、毎秒3社、新しいスタートアップが設立されている(1時間あたり11,000社)ことを考えれば、テクノロジーのルネサンスは巨大企業にとどまらず、日々選択を重ねる私たち一人ひとり、創業者やリーダーにまで広がらなければならない。

自分たちの価値観に基づき、人々に製品をどう使ってほしいかについて、自分の考えを持つ時だ。

どんな価値観にも代償が伴う。その過程で顧客を失うこともあるだろう。

テクノロジーのルネサンスとは、単一の見解に従うことではない。独自の見解を持ち、素晴らしいテクノロジーを設計し、開発する際に、それを意識的に反映させることだ。

何が許容されるか、されないかを誰かに告げられるのを待つのではない。製品やプラットフォームの作り方、誰に販売するか、どう宣伝するかを見直す時だと思う。私たちはすでに暗黙のうちにそうしており、決断にはすでに価値観が表れている。

今こそ、この議論に光を当てる時だ。

注:近日開催されるMeta Conversations: Tech and Humanity Conferenceで、#techrenaissanceを正式に立ち上げることを楽しみにしている。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。