まるで「Netflix」の未来ディストピアドラマの脚本のようだ。Black Mirror」。チャットボットは今や「どのようにお手伝いできますか？」と尋ねる。それに対して入力された返答は「あなたは人間ですか？」。「もちろん私は人間です」との応答が返ってくる。「では、あなたが人間だとどうやって分かるのでしょうか？」。このようなやり取りが延々と続く。
AIの背後にいる人間に説明責任を負わせる
人間が機械の人間的知能を模倣する能力に疑問を投げかける、いわゆるチューリング・テストは、今まさに行われている。高度に複雑化したアルゴリズムに支えられ、ペタバイト単位のデータを与えられ、さらに数十億ポンドの投資を受けた強力な人工知能（AI）は、今まさに指数関数的な速度で「学習」を進めている。AIはまた、人々の生活に関する決定を下す場面をますます増やしている。
このことは、企業、社会、政治家、そして規制当局にとって、多くの深刻な倫理的課題を提起している。機械学習が、住宅ローンの融資先、刑事訴追に関する裁判所への通報、職員の業績評価や採用候補者の選定をますます決定するようになるなかで、コンピュータによる判断が公正で合理的であり、偏りがないとどうすれば確認できるのだろうか。
「説明責任こそが鍵である。AIの背後にいる人間が説明責任を負わなければならない」とTechUKの最高経営責任者であるジュリアン・デイビッド氏は説明する。「だからこそ、機械に法的な身元を与える前に、非常に慎重に検討する必要があるのだ。本当に善を行い、信頼される存在でありたいと考える企業は、倫理にはるかに大きな注意を払う必要があるだろう。」
「本当に善を行い、信頼される存在でありたいと考える企業は、倫理にはるかに大きな注意を払う必要があるだろう」
ソーシャルネットワーク上のデータ収集をめぐるケンブリッジ・アナリティカの破綻や、一般データ保護規則が5月末に施行されたことは、これらの課題を前面に押し出している。それらは、人間がデータや巨大企業に奉仕するのではなく、データこそが最終的に人間に奉仕するために用いられなければならないという事実を浮き彫りにしている。
「一般市民はこの問題に対して反発し始めている。EU法や情報ガバナンスについては何も知らないと言う人が多いが、フェイスブックの件のようなデータ漏えいやスキャンダルについては知っている」と、人工知能に関する貴族院特別委員会の委員長であるクレメント＝ジョーンズ卿は述べる。
元グーグルのエンジニアであるヨナタン・ツンガー氏は、さらに踏み込んで、データサイエンスは今や重大な倫理的危機に直面していると述べている。これは、化学者アルフレッド・ノーベルによるダイナマイトの発明や、広島への原爆投下によって物理学が直面した審判の時、サリドマイド事件によって医学が迎えた転機、そして優生学によって人間生物学が経験した事態など、過去何世紀にもわたって他の分野が直面してきた問題と重なるという。
倫理は技術に先行しなければならず、その逆であってはならない
しかし歴史が示すとおり、倫理は最新技術の後ろに付き従う傾向があり、先頭に立って導くことは少ない。「最近のスキャンダルが改めて示したように、将来イノベーションが持続可能であろうとするならば、データサイエンスやAIのような変革的技術がもたらす倫理的影響を慎重に検討する必要がある」と、アラン・チューリング研究所のデータ倫理研究アシスタントであるジョシュ・カウルズ氏は述べる。
企業が21世紀において繁栄しようとするならば、倫理には正面から取り組む必要がある。調査会社IDCによると、認知システムへの世界的な支出は今年約190億ドルに急増する見込みで、2017年から54％増という驚異的な伸びとなる。ガートナーは2020年までに、AIが世界で230万件の新たな雇用を創出する一方、職場の180万件の役割を消滅させると予測している。
主要な懸念は、機械が人間の行動を再現し、複雑な専門的な経営判断を下そうとする傾向を強めるなかで、意思決定において公正さ、正義、そして誠実さをどのように確保するか、また透明性をどう担保するかという点にある。
「単純な答えとしては、人間の脳をクローンとして複製できるようになるまでは、おそらくできないだろう」と、チャータード・バンカー・インスティチュートの専務取締役であるジャイルズ・カスバート氏は説明する。「AI自体がその行動に対して責任を負わせられないことを、明確にしておく必要がある。もちろん、AIが学習を始めると問題はより複雑になるが、それでも学習能力はプログラムされたものである。」
道徳的権利と経済的権利のバランスをとる
産業界は決して手の内を明かさない。多くのアルゴリズムは、民間企業に市場での優位性をもたらすため、企業の最も厳重に守られた秘密である。それでも、不透明な「ブラックボックスAI」と呼ばれるものに多くの人々が懸念を抱いている。米国のAIナウ研究所は、有意義な精査や説明責任が及ばない、この監査されていないシステムの利用を終わらせるよう求めている。
「我々はこの問題をグローバルな視点からも検討する必要がある。今後、企業には倫理委員会が必要になるだろう。これらの委員会は、AIの原則に関する行動規範によって国際レベルで調整される必要がある」と、ビッグ・イノベーション・センターの最高経営責任者であるビルギット・アンダーセン教授は述べる。
「確かに我々には個人の道徳的権利があるが、データ共有から生まれる社会の経済的権利を軽視すべきではない。医療、エネルギー、交通、そして個人データへのアクセスは、新しい企業や経済の成長を後押ししてきた。データは新しい石油であり、新たな成長のエンジンである。AIが機能するためには、データが流通する必要がある。」
英国はAI倫理においてリーダーシップを取ることができる
英国は、テリーザ・メイ首相がデータ倫理・イノベーションセンターの新設を呼びかけていることもあり、AI倫理においてリーダーシップを取る有利な立場にある。そもそも英国は、初期のAI思想の中心にいた数学者アラン・チューリングの生誕地であり、グーグルのAlphaGoやDeepMindもこの地で誕生した。アマゾンのAlexaに話し方を教えたのも英国人である。
英国の企業は、多様性と包摂性や環境など、他の多くの問題についても良好なガバナンスに熱心である。「この国には、これを基盤に発展させるための世界でも有数の資源がある。倫理におけるリーダーシップは英国の独自の強みとなり得るが、これを正しく実現するための好機の期間は比較的限られている。すべてのことに対する行動を取る時は今である」と、TechUKのデイビッド氏は締めくくる。
AIのための「マグナ・カルタ」を起草する
テリーザ・メイ首相は、今年初めに開催された世界経済フォーラムの年次Cシートのイベントであるダボス会議で、さまざまなテーマを話すこともできたが、人工知能（AI）に焦点を当てることを選んだ。彼女は、新たな諮問委員会の設置を見据えつつ、英国が世界のガバナンスの形成において世界のリーダーになることを望むと述べた。
「我々は、新たな世界をリードするデータ倫理・イノベーションセンターが国際的なパートナーと緊密に連携し、人工知能の安全で、倫理的かつ革新的な導入をどのように確保するかについて共通の理解を構築することを望んでいる」と、彼女はダボスでの演説で述べた。
「これには、アルゴリズムが開発者の人間的な偏見を永続させないようにするなど、AIを責任ある形で最大限に活用できるルールや基準の策定が含まれる。」
その後、4月には英国で初めてAIに関する公的調査が行われた。人工知能に関する貴族院特別委員会は、組織が署名できる国内および国際的なAI行動規範の策定を提言した。また同委員会の報告書は、大手テック企業による「データの独占」について、競争・市場庁に対応を求めることも提言した。
「多くの点で、我々にはAIのための新たな『マグナ・カルタ』が必要である」と、特別委員会の委員長であるクレメント＝ジョーンズ卿は説明する。「私はこれを、すでに時間との闘いだと考えている。AIはすでにここにあり、現在の問題である。複雑なアルゴリズムはすでに人々の生活に影響を及ぼしている。我々に必要なのは、この問題に対する迅速かつ包括的なアプローチである。この分野では新たな規制は必要なく、倫理の枠組みこそが必要だと考えている。」
委員会による調査や、データ倫理センターを設立する動きは、すでに影響を及ぼしており、英国のAI政策の中核に倫理を据えることにつながっている。エイダ・ラブレス研究所、情報コミッショナー事務局などの取り組みも勢いを増しており、AIグローバル・ガバナンス委員会を設立すべきだという声も高まっている。
「政府が、これらの技術がもたらす機会とリスクの両方を真剣に受け止めていることは心強い」と、アラン・チューリング研究所のデータ倫理研究アシスタントであるジョシュ・カウルズ氏は述べる。
「企業自身も、倫理の発展において重要な役割を担っている。これらの取り組みがより効果的に調整されるほど、成功の可能性も高まるだろう。そしてそれらが成功すれば、英国は、社会にとって有益であると同時に、企業にとって利益をもたらすAI技術の開発を担う国となることができるだろう。」
