スティーヴン・スピルバーグ監督の1993年の名作『ジュラシック・パーク』で、時代を超えて語り継がれる名台詞があるとすれば、それはおそらくジェフ・ゴールドブラムの「君たちの科学者たちは、できるかどうかに気を取られるあまり、そうすべきかどうかを考える余裕がなかった」という言葉でしょう。
ゴールドブラムが演じたイアン・マルコム博士は、絶滅した生物を蘇らせようと恐竜のDNAを安易にいじることの傲慢さを警告していました。25年を経た今、科学者や企業の数が増えるなか、その言葉は新たな意味を持ちつつあります。彼らは、「できる」と「すべき」の境界線をどう歩むかに苦慮しており、その対象は遺伝子編集や現実世界での「絶滅種の復元」から、人間の能力増強、人工知能など多岐にわたります。
強力な新興技術が予期せぬ広範な影響をもたらしかねないという懸念が高まるなか、イノベーターたちは、社会的責任を果たしながら有益な新製品をどう開発するかに苦心しています。その答えの一端は、SF映画をもっと観ることにあるのかもしれません。『ジュラシック・パーク』のような作品がその一例です。
社会的リスクに関するハリウッドの教訓
私は長年、イノベーターや他の人々が、新興技術を取り巻く複雑さを増す状況をどう理解すべきかに関心を持ってきました。新興技術に伴う社会的リスクと便益。雇用、プライバシー、安全保障、さらには人々が過度な干渉を受けずに生活する能力に対する技術の影響への懸念が高まっており、責任ある形でイノベーションを進める方法について、新たな考え方が必要であることを浮き彫りにしています。
新しいアイデアには、創造性と想像力、そして世界を異なる視点で見ようとする意志が必要です。そして、ここでSF映画が役立つのです。
SF映画は、科学や技術を正確に描くことにおいては、言うまでもなく定評のある不正確さを持っています。しかし、そのプロットは人間と技術の複雑に絡み合った関係によって動かされることが多いため、成功し責任あるイノベーションに影響を与える社会的要因を明らかにする点で、驚くほど示唆に富むことがあります。
このことは『ジュラシック・パーク』に明確に表れています。この映画は、現代の遺伝子工学の長所と短所、そして絶滅した種を死から蘇らせることへの関心の高まりについて考える上で、驚くほど優れた出発点を提供しています。さらに、人間と技術の両方が関わる複雑なシステムの本質や、権力、富、説明責任の欠如によって推進される「許可なき」イノベーションがもたらしうる危険性についても、議論のきっかけを与えてくれます。
同様の洞察は、スピルバーグ監督による2002年の映画「マイノリティ・リポート」にも見られます。この作品は、AIによる犯罪予測の能力が高まることを予見しており、それがもたらす倫理的な難問も描いています。また、2014年の映画「エクス・マキナ」も同様です。
『ジュラシック・パーク』と同様に、『エクス・マキナ』も、自身の能力に絶対的な自信を持つ、裕福で説明責任を負わない起業家を中心に展開します。この作品で問題となる技術は人工知能です。
この映画は、驚異的な知能を持つ機械を創り出す、自惚れの強い天才の物語です。しかし彼には、自身の限界や、自らの行為に伴うリスクを認識する自覚が欠けています。また、人間の規範や価値観に縛られることなく、人間自身よりも我々のことをよく知る機械を創ることがもたらしうる危険性について、背筋が寒くなるような洞察も提供しています。
その結果、謙虚さと人間性の十分な欠如は、イノベーションが自らに跳ね返ってくることがあるという、厳しい教訓を示しています。
『ジュラシック・パーク』、『マイノリティ・リポート』、『エクス・マキナ』に登場する技術は、現時点では実現不可能なものです。しかし、これらの映画は現在の新興トレンドに十分近いことが多く、無責任な、あるいは単に浅はかなイノベーションの危険性を明らかにする助けとなります。ここに、これらの作品や他のSF映画が、イノベーターが直面する社会的課題をより深く理解し、それらをどう乗り越えるかを考える助けとなる理由があります。
スクリーン上で解決される現実世界の問題
ジャーナリストのカラ・スウィッシャーは、最近『ニューヨーク・タイムズ』紙のオピニオン記事で、「誰がシリコンバレーに倫理を教えるのか？」と問いかけました。テック企業による社会的に疑問の残る判断が次々と明らかになる中、スウィッシャーは、多くの企業が大人になり、倫理に真剣に取り組む必要があると指摘しています。しかし、倫理だけでは不十分であることも少なくありません。善意は財政的圧力に押し流され、社会的現実の中で行き詰まってしまうことが容易にあるのです。
テクノロジー企業がより責任ある存在となるためには、これまでの通常のビジネスのやり方から脱却する方法を見つける必要性がますます高まっています。FacebookやUber、またテスラのイーロン・マスクに関わる注目度の高い事例は、人間に関わる行動の結果を十分に理解しないまま事業を行うことの、社会的な危険性とビジネス上の危険性の両方を浮き彫りにしてきました。
さらに多くの企業が、社会的に有益な技術の創出に苦心しており、必要な知見やツールがなければ、暗闇の中で手探りするような危険を冒していることに気づき始めています。
例えば今年初め、GoogleとDeepMindの研究者たちは、人工知能を活用したシステムの詳細を発表しました。このシステムは、人間をはるかに上回る精度で読唇を行うことができます。論文の著者によれば、この技術は発話に困難を抱える人々の生活を改善する大きな可能性を秘めています。しかし、同じ技術が、特に長距離監視カメラと組み合わされた場合、何百万人ものプライバシーと安全を脅かしかねないことも容易に想像できます。
このような技術を社会的に責任ある形で開発するには、善意や、単に倫理委員会を設置するだけでは不十分です。人々は、技術と社会の間にある、しばしば複雑な相互作用について、高度な理解を持つ必要があります。そして、Mozillaのミッチェル・ベイカーが指摘するように、人文学に関与する科学者や技術者が役立つ可能性はあるものの、それだけでは十分ではありません。
映画は、専門性の高い分野への入り口として手軽な手段である
ベイカーがイノベーターに強く必要だと述べる補完的スキルの「新たな体系」は、社会的に責任あるイノベーションに焦点を当て、活気ある学際的コミュニティにすでに存在しています。私の所属機関である社会におけるイノベーションの未来のための学校（アリゾナ州立大学）は、その一例にすぎません。
このグローバルなコミュニティの専門家たちは、優れたアイデアを責任ある実践へと転換する方法を積極的に模索しています。そこには、技術イノベーションを取り巻く社会的状況に対する創造的な洞察と、それを乗り越える新たな方法を生み出す想像力の必要性も含まれています。
ここにこそ、SF映画が、イノベーター、技術リーダー、そして彼らが所属する企業を導く強力なツールとなる理由があります。架空のシナリオは、潜在的な落とし穴や機会を明らかにし、現実世界の意思決定を、社会的に有益で責任ある結果へと導く助けとなると同時に、不必要なリスクを回避することにもつながります。
そしてSF映画は、人々を結びつけます。その性質上、これらの作品は社会的・教育的な平等化をもたらします。最新のSFブロックバスターを誰が観て議論しているかを見れば、社会の多様な層が含まれていることがよくわかります。このジャンルは、科学や技術の仕組みを理解している人々と、それらが社会の利益のために機能するために何が必要かを理解している人々の間に、橋を架ける助けとなります。
これは、私の新著『Films from the Future: The Technology and Morality of Sci-Fi Movies』の根底にあるテーマです。本書は、新興の技術トレンドや、それらが社会に及ぼしうる影響に関心のあるすべての人に向けて書かれています。同時に、正しいことをしたいと考えながらも、どこから始めればよいかわからないイノベーターのためにも書かれています。
もちろん、SF映画だけで社会的に責任あるイノベーションが確保されるわけではありません。しかし、技術イノベーターが直面する深刻な社会的課題と、それらを乗り越える可能性のある方法を明らかにする助けにはなります。そして、責任あるイノベーションの方法を学ぶのに、友人を招き、ポップコーンを用意して映画を観る以上に良い方法があるでしょうか。
後から振り返れば避けられたはずのリスクに不意を突かれるよりは、はるかにましです。
