短編映画『Slaughterbots（スローターボット）』は、小型ドローンの群れが政治的信条を理由に数千人を暗殺する、近未来の姿を描いている。2017年11月に公開された。学者や活動家が、高度な人工知能（AI）の危険性に警鐘を鳴らすために制作したもので、瞬く間に拡散し、これまでに300万回以上再生された。この作品は、自律型兵器の将来をめぐる公開討論のきっかけの一つとなり、国際連合の「特定通常兵器使用禁止制限条約」の会合に出席する外交官たちに圧力をかけた特定通常兵器使用禁止制限条約。
しかし、このような思索的なSFの物語は、単に注目を集めるためだけに有用なのではない。先進技術を設計し開発する人々は、物語を用いて自らの仕事がもたらす結果を検討し、それが善い目的に使われるよう確実にすることができる。また私たちは、この種の「SFプロトタイピング」や「デザインフィクション」が、人間の偏見が新技術に入り込み、社会の偏見や不公正をさらに固定化するのを防ぐ助けになると考えている。
バイアス（偏り）とは、ある種類の（結果、人、または考え方の）ものを、他のものより恣意的に優遇することにつながり得る。例えば、幹部職に女性を採用することに対して、本人が自覚しているかどうかにかかわらず、偏見を持つ人がいるかもしれない。かどうか。
そのような偏りを記録したデータを基に構築された技術は、問題を再生産してしまう可能性がある。例えば、特定の職務に最適な履歴書を選び出すよう設計された採用ソフトウェアが、男性に対する無意識の偏見を反映した特徴を探すようプログラムされている場合がある。その場合、アルゴリズムは結果的に男性の履歴書を優遇してしまう。そしてこれは理論上の話にとどまらない。実際にアマゾンで起きたのだ。
起こり得る悪影響を考慮せずにアルゴリズムを設計することは、に例えられてきた。医師が「ある治療法の利点については書き立てるが、それがどれほど深刻であろうと、副作用を完全に無視する」ことになぞらえられている。
一部のテック企業や研究者は、この問題への取り組みを進めている。例えばGoogleは、AIの開発を導くための倫理原則のセットを策定した。また英国の学者たちは、技術の設計と利用においてより大きな公正さと正義を促すことを目指すNot-Equalという取り組みを立ち上げた。
問題は、企業が公の場では、近未来の技術がもたらす潜在的な結果について、肯定的な展望ばかりを示しがちだという点にある。例えば自動運転車は、コストや安全性に至るまで、私たちの交通問題のすべてを解決するものとして描かれることが多いが、サイバー攻撃の危険性の高まりや、人々が歩いたり自転車に乗ったりする機会を減らしてしまう可能性には触れられていない。
デジタル技術、とりわけ不透明なアルゴリズムに強く依拠する技術がどのように機能しているのかを理解することは難しく、そのため人々が問題を複雑かつ包括的に捉えることもより困難になる。こうした状況から、安心させる肯定的な物語と、私たちの身の回りの技術にはある程度偏りが組み込まれているという漠然とした疑念との間に緊張が生じる。ここで私たちは、デザインフィクションを通じた物語の語りが役立つと考えている。
物語は、可能性や複雑な状況について思考するための自然な方法であり、私たちは生まれてからずっと物語に触れてきた。『Slaughterbots』がそうであるように、SFは近未来の技術が社会に与える影響を推測する助けとなり得る。そこには、難民や移民など、特定の集団が排除されることがあるといった、社会正義の問題さえ含まれ得る。
（起こり得る）未来を明らかにする
デザインフィクションの物語は、デザイナー、エンジニア、未来学者（など）が、人間の視点から技術の影響について考え、それを将来のニーズと結びつけるための新たな方法を提供する。論理と想像力を組み合わせることで、デザインフィクションは技術がどのように採用され、利用されるのかという側面を明らかにし、その将来的な影響について議論を始めるきっかけを生み出すことができる。
例えば、短編小説「Crime-sourcing（犯罪のクラウドソーシング）」は、AIが群衆から集めた情報と犯罪者データベースを用いて、誰が殺人を犯す可能性があるかを予測したらどうなるかを探求している。研究者たちは、そのデータベースには社会的な理由から統計的に再犯の可能性が高いとされる少数民族の人々が多く含まれていたため、「犯罪のクラウドソーシング」モデルは白人よりも少数民族を誤って疑う傾向が強くなることを発見した。
デザインフィクションを生み出すために、優れた作家である必要も、洗練された映画を制作する必要もない。カードやストーリーボードを用いたブレインストーミングの活動が用いられてきた。デザインフィクションを開発し、物語化の過程を支えるためにである。こうしたツールを用いたワークショップをより一般的なものにすれば、より多くのエンジニア、起業家、政策立案者がこの評価手法を活用できるようになる。さらに、その成果物を一般に公開すれば、技術が社会に影響を及ぼす前に、潜在的な偏りを明らかにする助けとなるだろう。
このような方法で、より多くの物語を創作し共有するようデザイナーを後押しすれば、新技術の基盤となる物語が、単に肯定的な像を示すだけでも、極端に否定的あるいはディストピア的なものになるわけでもなくなる。代わりに、人々は私たちの身の回りで起きていることの両面を理解できるようになるだろう。
