人工知能（AI）は、自動運転車からアルゴリズム取引、臨床意思決定支援システムからデータマイニングに至るまで、数多くの用途でビッグデータと機械学習を活用している。AIの開発には大量のデータが不可欠だ。中国は人口が多く、ビジネス部門でもデジタル化されたプラットフォームやツールが比類ないほど広く使われているため、AIで優位に立つ可能性がある。さらに、人々や企業が残すデジタル上の足跡から収集された情報の利用に関する制約も少ない。インドも、生体認証による身分証明トークン、現金廃止、物品・サービス税の一本化など、経済のデジタル化に向けて同様の施策をいくつも進めてきた。
しかし、FacebookとCambridge Analyticaによる個人データやソーシャルデータの利用をめぐる最近のスキャンダルによって、倫理的な配慮が注目を集めている。そして、これは始まりにすぎない。AIの用途が、機械に学習させ、これまで人間にしかできなかった作業を遂行させるために、ますます大量のデータを必要とするなか、少なくとも世界の一部では、企業に対する世間の監視が強まっている。広く報じられた事故を受け、TeslaとUberは自動運転車の開発を縮小した。AIを倫理的かつ責任ある形で利用するには、どうすればよいのか。AIに関する世界共通の基準がないなかで、責任ある利用への意識を高めるにはどうすればよいのか。
AIとその関連技術を評価する倫理基準は、まだ緒に就いたばかりだ。難しい事態に巻き込まれないためにどうすればよいか、企業は社内で議論を始めるとともに、主要な利害関係者と社外でも討議する必要がある。
義務論的な倫理基準と目的論的な倫理基準の違いを考えてみよう。前者は意図と手段に着目し、後者は目的と結果に着目する。例えば自動運転車の場合、エラーがなく、効率的で環境にも優しい交通システムを実現できるなら、さまざまな条件下での運転に関する大規模なデータ収集や、AIを用いた実験も正当化できるかもしれない。
一方、臨床介入、とりわけ医学試験は、目的論の観点から正当化するのが難しい。本人の知らないところで行われた医学実験の恐ろしい歴史を踏まえれば、企業もAI研究者も、結果ではなく意図と手段を基準に活動の倫理性を判断する義務論的なアプローチを採用するのが賢明だろう。
もう一つの有用な指針は、いわゆる倫理の黄金律だ。自分がしてほしいように他者に接することを促す原則である。AIの急成長分野にこの原則を適用する難しさは、データが収集・分析されている何十億もの人々と、恩恵を受ける可能性がある何十億もの人々との間に大きな隔たりがあることだ。データは単に集積されるため、黄金律を直接適用しても、ほとんど意味をなさない。
最後に、もう一組の倫理基準として、文化相対主義と普遍主義を考えてみよう。前者は、ある文化の価値観や規範を通して慣行を評価するよう促し、後者は、誰もが合意した基準に従うよう求める。この対比は、例えばデータプライバシーをめぐる欧州と米国の現在の見解の衝突が、GoogleやFacebookをはじめとする企業の世界的な競争環境を形作っている理由を説明するのに役立つ。中国やインドなどの新興市場は、自国に優位をもたらすと考え、とりわけ技術大国としての発展を遅らせかねない不要な規制を避けるため、文化相対主義を指導原理とすることを長年提案してきた。
倫理基準は、1980年代以降の技術基準と同じように、世界の競争を左右する重要な要素になりそうだ。AIをめぐる利害の大きさとデータへの強い需要を考えれば、企業は優位に立つための活動の細部に至るまで、非常に厳しい問いを投げかける必要が出てくるだろう。世界各地の顧客と進めている業務のなかで、私たちはAI導入における倫理の役割を検討している。デジタル世界でAIが普及するかどうかは、産業界と社会がこれらの問題にどう取り組むかに大きく左右される。
しかし、AIがその可能性を発揮するには、予測可能性と信頼が必要だ。この二つは相互に関連している。責任の所在やデータの許容される用途など、AIがもたらす複雑な問題に予測可能な形で対処すれば、AIへの投資と利用が促される。同様に、AIの進歩には、消費者が技術そのものや自分たちへの影響、データの利用方法を信頼することが欠かせない。予測可能で透明性のある対応が、その信頼を築く。
知的機械は、思考、知覚、学習、問題解決、意思決定といった高度な認知プロセスを可能にしている。AIは、人間の知能を補完・拡張し、産業界や政府の運営をより豊かにする機会をもたらす。
しかし、AIを用いて認知能力を持つ機械を生み出す可能性は、慎重な検討を要する複数の倫理的問題を提起する。認知能力を持つ機械が独自に判断を下すと、どのような影響が生じるのか。それを認めるべきなのか。結果について、どのように責任を問えばよいのか。機械の学習を管理し、規制し、監視する必要があるのか。
法制度で十分に対処できないほど複雑、あるいは急速に変化する問題に対応するには、強固な法的枠組みも必要となる。しかし、政治・法制度上の手続きだけでは十分ではない。信頼を築くには、倫理規範も同じく重要だ。
政府はAIの倫理をめぐる議論を促し、関係するすべての当事者が参加できるようにすべきだ。民間部門、消費者団体、学界が一堂に会することで、技術、社会、政治の動向に対応し続ける倫理規範を策定できる。
政府の取り組みは、AI倫理の研究や議論を進める既存の活動と連携すべきだ。支援できる取り組みは数多くあり、Alan Turing Institute、Leverhulme Centre for the Future of Intelligence、世界経済フォーラム第四次産業革命センター、Royal Society、そして人々と社会に恩恵をもたらす人工知能のためのパートナーシップ（Partnership on Artificial Intelligence to Benefit People and Society）などが挙げられる。
しかし、こうした機会には、それに伴う倫理的課題もある。
意思決定と責任： AIの利用が広がるにつれて、意思決定に対する責任の所在を明確にすることは難しくなる。損害をもたらす誤りが起きた場合、誰がリスクを負うべきなのか。
透明性： 複雑な機械学習システムが重要な意思決定に使われると、特定の行動方針に至った原因を解き明かすのが難しい場合がある。責任の所在を判断するには、機械がどのように推論したかについて明確な説明が必要だ。
バイアス： 機械学習システムは、意思決定システムに既にあるバイアスを固定化するおそれがある。AIが差別的でない形で発展するよう、注意を払わなければならない。
人間の価値観： プログラムされていなければ、AIシステムには初期設定の価値観も「常識」もない。英国規格協会（British Standards Institute）の規格BS 8611「ロボットおよびロボットシステムの倫理的設計と応用」は、次のような有用な指針を示している。「ロボットは、人間を殺傷したり危害を加えたりすることだけを、あるいは主な目的として設計されるべきではない。責任を負う主体はロボットではなく人間である。どのロボットについても、その行動を含め、誰が責任を負うのかを特定できるようにすべきである。」
データ保護と知的財産： AIの可能性は、大規模なデータセットへのアクセスに根ざしている。あるデータセットで学習したAIシステムが、その学習内容を新たなデータセットに適用した場合、何が起こるのだろうか。
責任あるAIは、道徳的原則と価値観に配慮し、人間の基本的な倫理が損なわれないようにする。企業がAIを非倫理的に利用しているという申し立てが、近年いくつかあった。一方、Amazon、Google、Facebook、IBM、Microsoftは、人工知能技術に関するベストプラクティスを策定し、一般の理解を深め、人工知能に関するプラットフォームとして機能するため、非営利のパートナーシップを設立した。
