スティーブン・ホーキング氏からビル・ゲイツ氏、イーロン・マスク氏に至るまで、誰もがAIの哲学について議論してきました。世界中の企業が驚異的な速さでAI製品を生み出している今、AIに倫理的な安全策をどう実装するかを論じるのをやめ、実際に実装に取り組むことが、ますます急務となっています。
完全自動運転車（AV）を最初に実用化しようとする競争が、この問題を最前線に押し上げました。歩行者の死亡事故が3月に発生し、AVの安全性だけでなく、その倫理的な影響についても懸念を呼んでいます。機械に「考える」ことを倫理的に教えるには、どうすればよいのでしょうか。そして、誰が決めるのでしょうか。誰が生き、誰が死ぬのかを。これは明白で差し迫った例ですが、AIをめぐる倫理的な問いは、私たちのまわりのいたるところにあります。
なぜ倫理がこれほど重要なのでしょうか？
AIが私たちに最大の恩恵をもたらす分野は、同時に私たちに危害を及ぼす可能性も最も大きい分野でもあります。決定が必ずしも白黒はっきりしないヘルスケアを例にとってみましょう。AIは複雑な診断や人間の「直感」を再現する能力からはほど遠い状況です。仮にそれが可能になったとしても、AI医師は倫理的といえるのでしょうか。患者の犠牲のもとで利益を増やすようAIを訓練することはできるのでしょうか。また、医療過誤の場合、患者は誰を訴えればよいのでしょうか。ロボットでしょうか？
AIは運用すると予測されており、2020年までに1兆ドル（$1 trillion）の資産を運用すると予測されています。医療と同様に、金融に関する判断もすべてを論理だけで下せるわけではありません。ポートフォリオの運用に関わる変数は複雑で、一つの判断ミスが数百万ドルの損失につながりかねません。AIは顧客の行動やデータを悪用するために使われる可能性はあるでしょうか。ハッキングについてはどうでしょうか。お金の管理を機械に任せたいと思いますか。
AI兵器は最も深刻な倫理的懸念を引き起こします。完全自律型の「移動型知能体」が登場しつつあり、戦争のあり方を私たちが知るものから一変させると期待されています。AIミサイルが誤作動を起こした場合、どうなるのでしょうか。「許容できる」誤りはどの程度なのでしょうか。
これらは、私を夜も眠れなくさせる問いです。幸いなことに、手遅れではありません。AIが何をできるのかについて、私たちはまだほんの一端を見たにすぎないからです。私たちに牙をむくかもしれない怪物を生み出さないための唯一の方法は、今日私たちが開発しているAIのアーキテクチャに倫理的な安全策を組み込むことです。
現在AIを開発しているすべての人が検討すべき戦略は、次の3つです。
1. 機微な場面では人間を関与させる
上記のすべての場面で、問題は残ります。いつ、どの程度まで人間を関与させるべきなのでしょうか。決定的な答えはありませんが、「ヒューマン・イン・ザ・ループ」（HITL）システム、つまり機械が作業を行い、不確実な場合にのみ人間が支援するシステムを採用したAIの方が、より正確なアルゴリズムを生み出します。機械が誤解を招くメタデータの集合を見つけた場合、合理的な人間であれば避けるはずの教訓を学んでしまう可能性があります。
メタデータに関する倫理的な慣行を確立することで、HITLの場面に構造を与え、時間の経過とともに「人間的要因」を自動化できる可能性があります。人間の良心と道徳規範も、相互作用や時には意思決定を駆動するAIメタデータの一部として体系化されなければなりません。
2. 機械が自己修正できるよう安全策を講じる
フェイスブックのフェイクニュース問題については誰もが読んだことがあるでしょうが、このテック大手は最近厳しい批判にさらされ、再び、広告プラットフォームで特定の民族や宗教集団を差別するために使われかねない5,000件以上のターゲティング・オプションを削除する事態に至りました。こうした倫理的機能は、理想的には製品開発の段階から組み込まれるべきですが、遅すぎるよりはましです。
私は、BCG、BCGデジタル・ベンチャーズ、そしてフォーチュン100企業の一社が提携して構築した際に、この点を直接経験する機会を得ました。構築したのはFormation（パーソナライズされた体験のためのAIプラットフォーム）です。製品の開発中、ユーザーの信頼を損なわないよう、3つのチェックポイントで安全策を実装しました。
3. 倫理規定を作成する
当たり前に思えるかもしれませんが、実際にこれを行っている企業がいかに少ないかは驚くほどです。データプライバシー、パーソナライゼーション、ディープラーニングのいずれに関するものであれ、すべての組織は、自らが従う一連の基準を持つべきです。Apple CEOのティム・クック氏によれば、「最善の規制は自己規制である」とのことです。Appleにとってこれは、慎重に精査することを意味します。すなわち、プラットフォーム上のすべてのアプリを、ユーザーのプライバシーを侵害していないか確認するために精査することです。
これは万能の解決策ではありません。実施する倫理規定は、AIをどのように利用しているかによって決められなければなりません。自社が基準を破った（または破りそうな）場合、従業員は問題を提起するよう促されるべきであり、経営者であるあなた方は、これらの懸念を真剣に受け止める責任があります。
倫理規定を作成するための推奨事項は次のとおりです。
⦁ 個人データが関わる場合、私たちは消費者のデータを自分たちのデータと同様に扱い、可能な限り集約して匿名化することを約束します。
⦁ 私たちは、機械が有害な判断を下さないよう、プロセスの複数の段階で安全策を実施することを約束します。
⦁ 私たちは、AIによって職を失ったすべての従業員を、関連する職務に再教育することを約束します。
未来の設計者として、私たちには、人間の生活を傷つけるのではなく、高めるような技術を構築する責任があります。今こそ一歩下がり、こうした製品の決定が人間の生活にどのような影響を与えうるかを真に理解する機会があります。そうすることで、私たちは集団として倫理的な未来の守り手となることができます。
