自動運転車は歩行者よりあなたの命を優先すべきでしょうか。Fitbitの活動データを裁判であなたに不利な証拠として使うべきでしょうか。ドローンを新たなパパラッチにしてよいのでしょうか。人間の遺伝子に特許を認めることはできるのでしょうか。
科学者たちは、すでにこうしたジレンマに頭を悩ませています。新たな機械の時代を迎えるにあたり、世界標準となる新たな成文化された倫理規範が必要です。「破壊的イノベーション」のような流行語と同じくらい、倫理を重視すべきです。
こうした動きは始まっています。昨年、米国のカーネギーメロン大学は、人工知能の倫理を研究する新たなセンターの設立を発表しました。オバマ大統領の下では、ホワイトハウスが同じテーマに関する論文を発表しました。また、FacebookやGoogleを含む大手テクノロジー企業は、AIの倫理的枠組みを策定するための連携を発表しました。リスクも機会も計り知れません。スティーブン・ホーキング、イーロン・マスクをはじめとする専門家たちは、公開書簡に署名し、AIが社会に利益をもたらすよう取り組むことを呼びかけました。
「文明がもたらすあらゆるものは人間の知性の産物であるため、その潜在的な恩恵は計り知れません。AIが提供する可能性のあるツールによってこの知性が増幅されたとき、何を実現できるかは予測できませんが、病気や貧困の撲滅も決して想像できないことではありません。AIには大きな可能性があるからこそ、潜在的な落とし穴を避けながら、その恩恵を得る方法を研究することが重要です。」
著名な人物や壮大な理念が並びます。しかし、多くの取り組みには国際協力が欠けています。さらに、第四次産業革命の影響はインターネットやAIにとどまりません。
世界経済フォーラム創設者のクラウス・シュワブ教授は、この段階は「サイバー・フィジカル・システム」を軸に進み、物理・デジタル・生物の各領域の境界が曖昧になると考えています。この機械の時代を受け入れるなかで、私たちは新たな倫理的課題に直面し、新しい法律が求められます。場合によっては、倫理規範全体を一新する必要があるかもしれません。技術的な飛躍とはそういうものです。人類はまもなく、倫理を再考する転換点、すなわち「倫理2.0」を迎えると私たちは考えています。
倫理の起源
哲学や宗教に由来する倫理は、テクノロジーの世界にそのまま当てはめるのが難しいものです。アリストテレスから十戒に至るまで、さまざまなものが倫理的な指針を与えてくれますが、確立された規則はどれもジレンマに直面しがちです。科学の世界にも、アシモフのロボット三原則からニック・ボストロムの倫理に関する研究まで、さまざまな試みがあります。しかし、人間は自らの行いにおける徳を育むだけでも難しく、新しい技術にふさわしい徳を組み込むとなればなおさらです。
倫理的な影響は、身近な問題（FacebookやGoogleのアルゴリズムは、感情から選挙に至るまで、あらゆることにどう影響しているのか）から、将来の問題（自動運転車によってトラック運転手の仕事がなくなったらどうなるのか）まで多岐にわたります。以下は、私たちが直面する倫理的判断の一例であり、すべてを網羅するものではありません。
生命科学。人類を操作し、「デザイナーベビー」を生み出すための遺伝子編集を合法化すべきでしょうか。がん研究者シッダールタ・ムカジーは、高い評価を受けた著書『遺伝子』で、ゲノム科学の進歩が突きつける深い倫理的問題を取り上げました。倫理的な問いは数多くあります。少し遺伝子編集をしなければ、生まれる前の検査で子どものIQが平均を大きく下回る80と予測されたら、どうするでしょうか。こうした技術が裕福な人々だけに限られたら、どうなるでしょうか。
AI、機械学習、データ。今後、人工知能はあらゆる種類の意思決定を支援するでしょう。しかし、アルゴリズムが公平に設計されていることを、どうすれば確保できるでしょうか。昇進、大学入学、さらには人生の伴侶選びまで決めるために使われるようになるシステムから、どうすれば偏りを取り除けるでしょうか。
地元警察は顔認識ソフトウェアを使うべきでしょうか。アルゴリズムに基づく予測的な警察活動を合法化すべきでしょうか。私たちのプライバシーにどのような影響があるでしょうか。最先端技術を手にした地域の法執行機関によって、監視国家の時代が到来するのでしょうか。
ソーシャルメディアとガジェット。Kindleに顔認識ソフトウェアや生体センサーが組み込まれ、読む一文一文が心拍数や血圧にどう影響したかを端末が把握できるとしたら、どうでしょうか。
ボットと機械。自動運転車に何を判断させるか、どう決めればよいのでしょうか。ロボットに何を判断させるかは、どう決めればよいのでしょうか。ロボットにも権利章典に相当するものが必要になるでしょうか。人間がロボットと結婚する権利や、ロボットが財産を所有する権利はどうでしょうか。高度に進化したサイボーグが政治職に立候補することを認めるべきでしょうか。
これからの道筋
これまで一般に、新しいイノベーションの行方は自由市場が決め、時間がたつと地域の政府が介入してきました（Uberは日本では禁止されていますが、インドでは営業しています）。しかし、今回同じ方法を取れば、悲惨な結果になりかねません。
政府がイノベーションの妨げになることを望んでいるわけではありません。私たちが呼びかけているのは、21世紀の倫理をめぐる一貫した世界的対話です。対話の場を学術誌や論説記事にとどめず、政府委員会や国連などの国際機関も参加させる必要があります。
これまで私たちは、サイロ化した対応を取ってきました。人間のクローン作成を世界的に禁止する一方で、遺伝子組み換え食品には部分的な規制を設けてきました。地域によって見解も異なり、統一的な対応を調整できていません。新技術が社会に及ぼす影響へのEUの対処方針は、米国のものと大きく異なります。一方、中国は常に長期的な視点に立ってきました。テクノロジーは水のようなものです。開けた場所を見つけて流れていきます。相互につながった世界では、国際的な合意に支えられてこそ、各地域の決定が効果を発揮します。
統治が必要な技術の一覧を作成し、技術ごとに評価を行い、その行動規範の指針を示す、体系的な国際フォーラムが必要です。たとえば、国際的な政府機関が、特定のAIアルゴリズムのロジックを公開する義務を定めるなど、具体的な規則を設けることができます。
科学の世界には、国際協力の成功例がいくつかあります。1987年のモントリオール議定書（オゾン層破壊への対応）や、1975年のアシロマ会議（DNA技術の規制）が挙げられます。
結論
人類は、これまで答える必要のなかった問いに直面するでしょう。今すぐ議論を始める必要があります。
事前に備えなければ、いくつものリスクに直面します。機械に大きな権力を奪われるおそれがあります。結果を十分に理解しないまま、人類の進路を変えてしまうおそれがあります。「テクノロジーで超富裕層となった人々」と大きな下層階級との間に、深刻な不平等を生み出すおそれがあります。
受賞歴のあるテレビシリーズを『ブラック・ミラー』一話でも見たことがある人なら、今、難しい哲学的・法的問題に取り組まなければ、私たちを待ち受けるかもしれないディストピアの未来に不安を感じるはずです。
これが初めての技術革命というわけではありません。懸念は新しいものではなく、産業革命以来200年以上にわたって存在してきました。しかし、歴史家で哲学者のユヴァル・ハラリが言うように、これは「オオカミが来る」と叫んでいた少年が、ついに正しかったと分かるようなものです。
従来、技術の進歩は政治の対応を追い越してきました。インターネットの道徳憲章を起草する機会をすでに逃し、今も追いつこうとしています。バイオテクノロジーであれAIであれ、次のフロンティアに不意を突かれるわけにはいきません。私たちの未来は、必ずしも責任を問われる立場にない技術者や起業家によって、ますます形作られています。
社会は、蒸気機関からiPhone、そして寿命の大幅な延伸に至るまで、変化への適応に長けています。ビル・ゲイツの言葉を借りれば、「テクノロジーに道徳性はない」。それをどう使い、どこに一線を引くかを決めるのは私たちです。
この記事は当初、Medianamaに掲載されました。こちらもご覧ください：新興技術の倫理に関する論文集。
