2012年7月31日、インド北東部を大規模な停電が襲った。現地時間午後1時、マディヤ・プラデーシュ州の送電線に過負荷がかかり、遮断された。電力供給網がその負荷を補おうとするなか、ほかの送電線も停止した。午後1時3分までに、連鎖的な一連の障害によって電力供給網は混乱状態に陥り、 人類史上最大の停電が発生した。その結果、推定6億人を超える人々が一時的に停電に見舞われた。
この停電は、私たちが頼りにしている数多くの複雑な技術システムが混乱のうちに崩壊することに、私たち全員がいかに脆弱であるかをはっきりと示している。それでも私たちは、強力な新技術を急速に開発し続けており、その複雑さと相互接続性が将来どのようにシステムの瓦解を招き得るのかについて、ほとんど考慮していない。
私たちの技術力の大胆さは、今年の 世界経済フォーラムによる新興技術トップ10 （WEF）のリストにも表れている。今回で4年目となるこのリストは、遺伝子工学や、個別化医療のための迅速なDNA配列解析とデジタル化の活用から、人工知能、人間の脳を模倣するニューロモーフィック・コンピューターチップ、高度なロボット工学に至るまで、幅広い進歩を取り上げている。
新たな技術トレンドの最前線がもたらす潜在的な利点と起こり得る落とし穴への認識を高めることを目的としたこのリストは、私たちを取り巻く世界を制御し、操作する能力がいかに急速に変化しているかを示す、印象的な証しである。同時に、制御不能なイノベーションに内在する危険性と、新興技術を責任を持って開発する必要性にも光を当てている。
世界経済フォーラム 新興技術トップ10 2015年
世界経済フォーラム／Andrew Maynard、 CC BY-NC-SA
イノベーションが自動的に善につながるわけではない
たとえば、WEFの技術トップ10の一つである人工知能（AI）を考えてみよう。Elon MuskとStephen Hawkingはともに、制御不能なAIのリスクについて警告してきた。今年初め、両氏は、強固で有益なAIの開発をめぐる機会と課題を示す 公開書簡 に署名した。この書簡は、先を見通し、十分に配慮しなければ、病気の根絶、利用可能な資源のより良い活用、生活の質の向上を目指すなかで人間の知能を大幅に拡張するというAIの可能性が、予期せぬ弊害によって損なわれかねないと指摘している。たとえば、悪意を持ってプログラムされた自律型兵器や、人間の価値観を理解も尊重もしない知能機械の危険性を想像してほしい。
WEFの技術トップ10に含まれるほかの技術も、同様の課題をもたらす。ドローンは安全保障とプライバシーをめぐる懸念を生む。デジタルゲノムは、DNAに基づく 『ガタカ』のような差別的な慣行に近づく可能性をもたらす。精密な遺伝子工学技術は、生物を倫理的に複雑な形で再設計し、再創造することを可能にする。3Dプリンティングなどの積層造形法は、新しい材料やプロセスを安全に利用する方法について、新たな課題を提起する。
こうした技術は、本質的に安全で安心なものではない。それでも、もたらし得る恩恵ゆえに、極めて重要である。
世界の課題に取り組むには技術が必要
潜在的なマイナス面があっても、社会には技術革新が必要だ。私たちが暮らす世界では、10億人が 今なお基本的な衛生設備を利用できず、毎年600万人を超える子どもが 5歳になる前に亡くなっている。世界の人々の14％以上が、毎日 1.25米ドル未満で暮らしている。25億人を超える人々が、 デング熱やマラリアなどの感染症にさらされるリスクを抱えている。許容できる生活水準を維持するのに十分な水、食料、エネルギーを確保することは、今後数年間で ますます困難になる だろう。
技術革新だけですべての課題を解決できるわけではない。しかし、技術革新がなければ、解決されない課題も多い。
だからこそ、新興技術に急ブレーキをかける余裕はない。WEFの技術トップ10はどれも、人々の暮らしをより良い方向へ変える進歩をもたらす可能性を秘めている。新たなリサイクル可能なプラスチックから、高度な製造プロセス、個人に合わせた健康プログラムの可能性まで、こうした技術は、病気の根絶、貧困と不平等の緩和、そして現代の最も差し迫った課題のいくつかへの対処に役立ち得る、イノベーションの氷山の一角である。
しかし、善意だけでは、こうした技術的ブレークスルーの恩恵を確実に得られるわけではない。
技術は真空中で生まれるのではない
今年1月、 ストックホルム・レジリエンス・センターが研究を発表し 、私たちが地球を急速に有害な転換点へと追いやっていることを示した。同センターは以前、人類が発展し繁栄し続けられる九つのプラネタリー・バウンダリー（地球の限界）を特定していた。これらの境界を越えると「急激または不可逆的な環境変化が生じる可能性がある」と警告していた。研究者によれば、気候変動や生物圏の健全性を含む四つの境界が、人間活動の結果、すでに越えられている。
新興技術は、私たちの行動と環境の結びつきを強めている。燃料電池技術や革新的なリサイクル可能材料の開発など、環境負荷を低減する新たなアプローチを通じてであれ、AIや分散型製造の応用など、人間と環境の相互作用を根本的に変える可能性を持つ技術を通じてであれ、地球の脆弱性と新技術の間には、密接で複雑なダイナミクスがある。
2015年の世界経済フォーラム新興技術トップ10の間にある強い相互依存と弱い相互依存。
世界経済フォーラム／Andrew Maynard、 CC BY-NC-SA
この複雑さに加え、新興技術同士は強く相互依存している。たとえば、AIの開発はニューロモーフィック技術に影響を与えると同時に、その影響を受ける。ニューロモーフィック技術は、ドローン、次世代ロボット工学、さらにはデジタルゲノムにも関係する。そして、これらは精密な遺伝子工学につながり、そこから再び急速にAIへと結びつく。
その結果、社会・技術・環境が大規模に相互接続されたシステムが生まれる。その複雑さゆえに、このシステムは急速で混乱を伴う、ひいては壊滅的になり得る崩壊に対して脆弱である。他の複雑系と同様、安定し予測可能に見えるものの、突然そうではなくなる。そして、そこに問題がある。
責任あるイノベーションの進め方
2013年、Stilgoe、Owen、McNaughtenは、強力な新興技術が急速に広がることで生じる脆弱性の少なくとも一部を軽減する助けとなり得る、 「責任あるイノベーション」の枠組みを発表した 。責任あるイノベーションに関する研究の蓄積の一環として、彼らはイノベーター、政策立案者などが「現在における科学とイノベーションの集団的な責任ある管理」を通じて未来を大切にするための、一連の提言を示した。提言の中心には、責任あるイノベーションの四つの「側面」が据えられていた。
予見 ：新たな課題を予測すること
省察 ：既存のアプローチが新技術の責任ある開発をどの程度実現できているか、あるいはできていないかを検討すること
包摂 ：意思決定に主要な関係者を加えること
対応 ：新たに生じるリスクと機会に対応すること
政府や投資家は、こうした考え方をますます真剣に受け止め始めている。たとえば、欧州連合（EU）の研究・イノベーション枠組みプログラム「Horizon 2020」には、 責任ある研究・イノベーションに関する特定の作業計画が含まれている。
しかし、私たちの集団的な創意工夫によって、比喩的な意味で混乱を伴う破綻の崖から突き落とされることを避けるには、さらに多くの取り組みが必要だ。
何より重要なのは、情報に基づく責任を、イノベーションのプロセスにその出発点から組み込むことだ。研究者やイノベーターから始め、投資家や消費者へと広げていく必要がある。これを補うために、社会は、社会的、経済的、環境的に持続可能な進歩につながるイノベーションを促し、支援しなければならない。
しかし、私たちが直面する最大の課題は、新興技術を個別に捉えることから離れ、技術革新、社会、環境の間にある、きわめて複雑で非線形、かつ混乱を招き得る相互作用を理解し、それに対応することへと移行することだ。
これは未知の領域へと私たちを導く。過去10年間で、新素材を原子から設計する方法に革命をもたらしているナノテクノロジーや、遺伝情報をデジタルで操作し、生物に再び組み込む道を開いている合成生物学など、個々の技術のリスクと利点についての理解は大きく進んだ。しかし、インドの送電網にある一本の送電線を理解するだけでは2012年の崩壊を防げなかったのと同じように、新興技術を一つずつ取り上げ、そのリスクと利点を理解するだけでは、将来の壊滅的な破綻を避ける助けにはならない。
技術を基盤とするレジリエントな未来を築くには、技術革新の恩恵を実現しつつ、壊滅的な崩壊が起こり得る状況から安全な距離を保つための、新たなアイデア、研究、ツールが必要だ。これは難題であり、学際的な投資、協力、創造性において前例のない水準が求められる。それでも、責任あるイノベーションを行わない代償は、私たちが到底受け入れられないほど大きいかもしれない。
この記事は、 The Conversationとの協力により掲載されています。掲載は、世界経済フォーラムが見解を支持することを意味するものではありません。
アジェンダの最新情報を得るには、 週刊ニュースレターに登録してください。
著者：Andrew Maynardは、ミシガン大学リスク科学センターのディレクター。
画像：ベルリンで開催されたIFA家電見本市で、Sony Action Cam Miniを搭載したドローンが展示されている。REUTERS/Fabrizio Bensch。
