イノベーションは進歩に不可欠です。科学の進歩と、そこから生まれる新技術は、歴史を通じて経済と社会の発展を推進してきました。今日目に見える新興技術には、世界の繁栄をさらに高め、世界的な主要課題に取り組む可能性があります。
しかし、イノベーションは新たなリスクも生み出します。新技術に伴い得る危険を理解することは、壊滅的な結果を招きかねない事態を避けるうえで極めて重要です。近年のサイバー攻撃の波は、新技術が悪意ある目的に悪用され、世界の安全に新たな脅威をもたらす可能性を示しています。リスクガバナンスは、科学イノベーションの進展に歩調を合わせる必要があります。
過失か、テロか
「次のサイバー」とは何でしょうか。合成生物学と人工知能は、莫大な恩恵をもたらす能力を持つ一方、政府、産業界、そして社会全体に重大な課題を突きつける新興技術の例です。
合成生物学を例に挙げましょう。DNAの構成要素から新たな生物を作り出すことは、感染症との闘い、神経疾患の治療、食料安全保障の改善、バイオ燃料の創出につながる可能性があります。その反面、生物の遺伝子操作は、過失またはテロによって重大な被害をもたらす可能性もあります。危険な合成生物が、致死性ウイルスや植物の突然変異などの形で偶発的に漏出すれば、甚大な損害が生じかねません。オンラインで合成生物学の発明にアクセスする組織的集団や、拡大する「バイオハッカー」コミュニティの単独の個人から、バイオテロの脅威が生じる可能性もあります。
人工知能の両刃の剣
人工知能（AI）もまた、両刃の剣です。AIの進歩は経済生産性を高める可能性がありますが、大規模な構造的失業を引き起こし、深刻な社会的混乱につながる恐れもあります。AIの発展は、説明責任や法的責任に関する新たな問いも提起します。自動運転車が歩行者と乗客のどちらに危害を及ぼすかという選択を迫られた場合、その判断の責任は誰にあるのでしょうか。「シンギュラリティ」、すなわち機械の知能が人間の知能を超える状態の実現は、人類の存続そのものへの脅威になると主張する人さえいます。
これらをはじめとする新興技術のリスクガバナンスは、極めて困難です。研究開発に携わる機関や地域社会はますます増え、イノベーションのペースは加速しています。各国の法的・規制的枠組みは未整備であり、特定の論点や技術が明記されていないために監視を免れています。監督を担うはずの機関は、部局の管轄をまたぐ進展への対応に苦慮し、資源も不足しているため、望むほど厳密にリスクを評価できないことが少なくありません。
国際レベルにも弱点があります。たとえば、バイオセーフティに関するカルタヘナ議定書は、改変された生物の取扱いや輸送に関する指針を定めていますが、その開発は対象としていません。生物多様性条約は合成生物学を扱っていますが、そこから得られた合意に法的拘束力はありません。現在、懸念されているのは、環大西洋貿易投資パートナーシップ（TTIP）のような大規模な国際交渉が、開かれた市場と規制の合理化を追求するなかで、新たなガバナンス提案を妨げ、世界的な規範に影響を与える可能性です。
取るべき6つの行動
では、進むべき道は何でしょうか。新興技術の潜在的な恩恵を実現するには、リスクを受け入れる姿勢が必要です。しかし、回避できたはずの災害を防ぐため、リスクを管理する必要もあります。ガバナンスと管理の枠組みを再活性化し、説明責任をより明確にしなければなりません。私は次の6つの行動を提案します。
イノベーター、産業界全般、市民社会、政府、規制当局などの関係者の間で、リスクガバナンスの優先課題をめぐる対話をより活発にする。
リスクガバナンスに関連する研究への資金と優先度を高める。
より踏み込んだリスク評価を可能にするため、情報開示基準を拡充する。機密保持と透明性の適切な均衡を見いだす必要がありますが、効果的なリスク規制に必要な情報へのアクセスを制限するために知的財産権を利用すべきではありません。
最大のリスクを伴う分野における国内規制の不足を補い、新たな進展により適応できるよう規制の設計を改める。
国際的なガバナンス機関内の議論を強化し、原則にとどまらず、より拘束力のある議定書を目指す。
イノベーションをめぐる責任ある文化を促進する。イノベーターによる自主規制を促し、ハッカーを美化する風潮をなくす。
イノベーションは奨励されなければなりませんが、それと並行して、新興技術のリスクを厳格に管理する道筋を定める必要があります。後に壊滅的な結果を招く事態に耐えるより、今、難しい問題に向き合うほうがはるかに賢明です。私たちがよく知るとおり、リスク軽減策が導入の遅れによって効果を発揮できなかった例が、歴史には数多くあります。
Global Risks 2015レポート が公開されました。
著者：John Drzikは、Marsh（Marsh & McLennan Companies）のGlobal Risks and Specialties部門の社長です。
画像：停電中のコンピュータ市場。REUTERS/Athar Hussai
