2005年、故作家デヴィッド・フォスター・ウォレスは、今では有名になった卒業式の祝辞を述べた。話は、水の中にいながら水とは何かも知らずに一生を過ごす魚の物語から始まる。魚たちは、自らの存在を可能にする海にも、自分たちを運ぶ潮流にも、無邪気なほど気づいていない。
ウォレスによれば、私たちが受ける最も重要な教育は、「考える力というより、何について考えるかを選ぶこと」にある。彼は、人間や社会の豊かさを見いだすことについて語る。だが、テクノロジー業界で働く私の心を捉えてきたのは、メタ認知の核心、つまり自分が何を考えるかを吟味し、見直すという考え方だ。
コードや計算、データは機械的に中立であるかのように感じられることがあるが、そうではない。テクノロジー製品やサービスを作るのは人間であり、人間は自らの偏見や誤った考えを製品やサービスにそのまま組み込む。それが人々の行動や社会を、ときに恐ろしいほど左右する。たとえば、オンラインメディアがクリックベイト型の報道に依存していることや、「フェイクニュース」や扇情的な記事の拡散におけるFacebookの役割が、2016年の米大統領選挙の結果に影響したという見方もある。この批判は外に向けたものではない。自らを省みるところから生まれたものだ。
私はスタンフォード大学で工学を学び、当時はそれだけ学べば十分だと思っていた。技術分野の問題解決に力を注ぎ、方程式、公理、コードの行を通して世界を見るようになった。よく練られた最適化問題、整然とした数学的証明、時間と空間の効率に優れた巧妙なアルゴリズムに、美しさと優雅さを見いだしていた。それに対して人文学の授業は、何もないところに意味を見いだそうとする、退屈で大げさな演習だと感じていた。倫理的思考とグローバル・コミュニティに関する一般教養の必修科目は、義務として修了した。しかし、そうした授業から本当の価値が得られるという考えを軽んじていた。
卒業後、私は小さなスタートアップのQuoraでソフトウェアエンジニアとして働き始めた。当時の社員はわずか4人だった。初めてのフルタイムの仕事だったことも、会社と、質問と回答を投稿するサイトという製品がまだ生まれたばかりだったこともあり、自分が何に取り組み、何を目指し、なぜそれをするのかを、初めて深く考えるようになった。
私はもう、授業計画や問題集、プログラミング課題、想定された学習成果に囲まれた世界で仕事をしていたわけではない。仕様書もなかったので、仕様書に沿ってコードを書くこともなかった。チームメートと製品を作ると同時に、それがどうあるべきか、誰のためのものか、利用者にどんな行動を促したいのか、どんなコミュニティに育てたいのか、そして世界にどのような価値を生み出したいのかも定めていった。
コードに没頭し、フロー状態に入るのは今も好きだ。ほかのすべてを脇に置き、目の前のエンジニアリングの課題だけに集中できる、何時間にも及ぶ集中的なコーディングの時間だ。しかし、現実や社会的な文脈から離れていられるのは、一時的なことにすぎないとも気づいた。
Quoraで働き始めて最初に作った機能は、ブロックボタンだった。コミュニティの規模がまだ数千人にすぎないころから、無礼で攻撃的な言動を楽しんでいるように見える人たちがすでにいた。私自身、サイト上で敵意を向けられ、嫌がらせを受けていると感じていたため、この機能にぜひ取り組みたいと思った（その理由として性別が関係していた可能性は十分にある）。だから、すぐにブロック機能を使いたいと考えた。だが、私にそうした個人的な視点がなければ、Quoraのチームはサービスのごく初期にブロックボタンの開発を優先しなかったかもしれない。
ハラスメント対策の設計を考えることは、言論の自由やモデレーションについて考えることとも深く関わっていた。私たちは、製品にも深く関わる哲学的な問い、つまり人は本来善なのか悪なのかを議論した。人はおおむね善であるなら、利用者を信頼するという考えに基づいて製品を設計し、例外的に悪意ある行為者が現れた場合に、その行為を取り消せる仕組みを用意すればよい。人は本来悪であるなら、利用者の投稿や編集をすべて承認待ちにし、モデレーターが確認するほうがよい。
私たちは、開かれた議論への影響も話し合った。利用者をまず信頼することにして、「質の低い」利用者が大量に流入したら、コミュニティにどんな悪影響が及ぶのだろうか（そもそも利用者をそのように呼ぶのは適切なのだろうか）。一方、Quoraのメンバーを信頼せず、「質が高い」と知られている既存の利用者を常に優遇したら、新参者や新しい考えを拒む、意見が凝り固まった閉鎖的な古参中心のニッチなコミュニティになってしまうのではないか。
最終的に私たちは、開かれた自由なプラットフォームを目指す方向に自らの判断を傾けた。人々を信頼するだけでなく、前向きなコミュニティ規範と、それをエンジニアリングやデザインで形作る自分たちの力も信じたのだ。おそらく、それは正しい判断だったのだろう。しかし、別の、より簡潔な公共プラットフォームの設計にも同じ偏りがあり、加害者やハラスメントをする人、荒らしを力づけ、その影響力を国内外で懸念されるほどに高めたことも、私たちは目にしてきた。
Quoraで、そして後にPinterestで、それぞれのホームフィードを支えるアルゴリズムにも取り組んだ。ホームフィードとは、利用者がログインしたときに表示されるコンテンツの流れ、つまり私たちが初期設定として利用者に見せる画面だ。アプリを開いた利用者に「良い」コンテンツを見せたいと思うのは、ごく自然に思える。だが、良いコンテンツとは何だろう。新しい考えに出会い、知的・創造的な視野を広げてもらうことが目標なのか。本人がすでに好んでいると分かっている種類のコンテンツをそのまま見せることなのか。それとも、最も測定しやすい指標に従い、クリックや共有をする可能性が高く、サービスの利用時間を最も延ばすコンテンツを見せることなのか。
苦い思いと、若いころ人文学を見下していた自分への気恥ずかしさを抱きながら、今の私は、きちんとリベラルアーツ教育を受けておけばよかったと思う。私たちが生きる世界を批判的に考え、そこにどう関わるかを学んでおけばよかった。特権や権力構造、構造的な不平等、不正義を見極め、問い直す方法を身につけておけばよかった。同級生と議論し、哲学や道徳について根拠ある意見を育む機会があればよかった。そして何より、こうしたことを考える価値があると気づき、心に留めておけばよかった。自分のエンジニアリングの仕事はすべて、そうしたテーマとの関わりの中に位置づけられるのだから。
今日、テクノロジーを作る人の多くが私のような人たちであることを、私は懸念している。自分たちが何を作っているのか、それが世界にどのような影響を及ぼすのかという、より大きな問いについて考える時間がまったく足りていない人たちだ。
好奇心を持つのに遅すぎることはない。私たちは誰もが、学び、読み、人と話し、旅をし、知的かつ倫理的に関わることを選べる。そうすることで、私たちが生きる世界の複雑さと驚異を余すところなく認め、その未来を思慮深く設計できるようになることを願っている。
