英国の人々は、予測型警察活動や病気の診断に使われるシステムよりも、家庭用機器や自動運転車に組み込まれた人工知能を恐れている。これは、王立協会が委託した調査によるもので、AIの主要な技術である機械学習に伴うリスクと利点を、一般の人々がどのように捉えているかを初めて詳細に調べたものとされている。
調査参加者が最も懸念したのは、機械学習から導かれた結論に基づいて動くロボットが、自分たちに身体的な危害を加えるという可能性だった。そのため、家庭内の機器や自動運転車のように、利用者のすぐ近くにある機械は、非常にリスクが高いと見なされた。AIによって動くロボットという概念は「身体性」と呼ばれる。「身体性を伴う応用は……身体的危害への懸念から、より高いリスクがあると見なされる傾向があった」と著者らは記している。
しかし、広範に展開される機械学習システムがもたらすリスクは現実のものであり、暴走した自動運転車にひかれることだけではない。データサイエンティストのキャシー・オニールが記したように、アルゴリズムは大規模に運用され、その仕組みが秘密にされ、破壊的な影響を及ぼす場合に危険となる。予測型警察活動は、彼女が挙げるその一例であり、偏ったデータソースによってその有害な影響が増幅される、危険なアルゴリズムの実例だ。
広範囲に及ぶ影響をもたらす可能性があるもう一つの分野は、医療における機械学習だ。コーネル大学の研究者ジュリア・パウルズは、調査参加者には、機械学習の活用例として乳がん診断に関する特に印象的な事例、すなわち2011年のスタンフォード大学の研究が提示されたと指摘した。この事例を受け、参加者は「誤診は起きないと確信している」と回答し、その確信の強さが社会を危険にさらすほどだった。「コンピューターによる診断という一般的な状況でこれが当てはまることは、まだ証明されていない」とパウルズは述べた。
認識されているリスクと潜在的なリスクのこうした食い違いは、新技術ではよくあることだと、コネクテッドデバイスの倫理を研究するロンドン・スクール・オブ・エコノミクスの助教、アリソン・パウエルは述べた。「これは、技術がもたらす可能性を伝える際の根本的な問題の一部です。新技術はあまりにも頻繁に『個人的なもの』として位置づけられ、システム全体に及ぶリスクの認識が妨げられています」と彼女は語った。
王立協会に即効性のある解決策はない。同協会は、機械学習を学ぶ学生に技術の勉強とあわせて倫理の授業を受けさせることを推奨している。また、英国政府に対し、研究者と一般市民が関わる機会への資金提供を提案している。機械学習に特化した規制を設ける案は退け、各業界にすでに適用されている規制による監督を支持している。機械学習がすでに私たちの身の回りにあり、影響力を増していくことに疑いはない。報告書をまとめたグループの議長を務めたピーター・ドネリーは、調査の発表会に集まった記者たちにこう語った。「機械学習は、私たちの個人的な活動や余暇の過ごし方の非常に多くの領域に影響を及ぼし得ますし、おそらく実際に及ぼすでしょう。」
