私たちの大半にとって、ロボットや人工知能（AI）に対する理解は、事実というより、SFから得たものが多い。知的なロボットは、「ターミネーター」シリーズの映画に見られるように人類への獰猛な脅威として描かれることもあれば、アイザック・アシモフの作品「ターミネーター」や、わたしはロボットに見られるように、社会に有益な道具として描かれることもある。また、「スター・ウォーズ」のロボットR2-D2やC-3PO、あるいは「スター・トレック」のレフテナント・コマンダー・データのように描かれることもある。しかし、AIとロボットの社会への統合の実態は、そのいずれにもなりそうにない。AIの進化が続く中で、私たちは、これらの絶えず進化する機械をどう捉えるかを改めて見直すべきかもしれない。（編集部注：スタンリー・キューブリック監督の映画「2001年宇宙の旅」に登場する知覚を持つコンピューター、HAL 9000に関する以下の動画をご覧ください。）
ロボットが知覚を持つ方向へ進むにつれ、ロボットが社会にとって何を意味し、どのような役割を担うべきかを、私たちが改めて考え始める必要があることは明らかだ。
まず第一歩として、ロボットを人間の模倣物として考えることをやめる必要がある。SFでは、人間の動作や言語を模倣するロボットが描かれがちだ。確かに私たちはそのようなロボットを開発しているが、日常的に使われるロボットの大半は、おそらく人間のような外見や声にはならないだろう。多くは、今日の生産ラインのロボットと大差のない特殊な機器になるだろう。自動車の点溶接を行ったり、出荷用にシャツを梱包したりする機器である。あるいは、自動運転車やドローンを制御するだけのコードとして、物理的な身体を持たずに存在するものもあるだろう。さらに、SiriやCortana、Alexaに代わる将来のパーソナルアシスタントとして機能するものもあるだろう。
スティーブン・ホーキング博士とイーロン・マスク氏は、AIが人間の安全と安心に及ぼす脅威について警鐘を鳴らしてきた
ロボットが知覚を持つ方向へ進むにつれ、ロボットが社会にとって何を意味し、どのような役割を担うべきかを、私たちが改めて考え始める必要があることは明らかだ。今日、私が「SF論争」と呼ぶものを巡って多くの議論が交わされている。とりわけ、スティーブン・ホーキング教授と起業家のイーロン・マスク氏は、ロボットとAIが人間の安全と安心に及ぼす脅威について警鐘を鳴らしてきた。英国科学振興協会（British Science Association）向けに2015年に実施されたYouGovの調査によれば、英国民の36％がこの立場をとっている。一方で、受動的な、あるいは社会的に有用なロボットは、人間の雇用に対する直接的な脅威として悪者扱いされるようになった。英国イングランド銀行は2015年に、英国で最大1,500万件の雇用がロボットによって失われる危険があると警告した。また、2016年のForrester Researchの報告書は、2021年までにロボットが米国の全雇用の6％を消滅させるだろうと示唆した。
こうした深刻な警告にもかかわらず、私たちはロボット工学とAIの研究を推進し続けている。なぜか。それは、SF論争と、ロボットが社会で果たす将来の役割との間に食い違いがあるからだ。真に賢いAI機器の第一世代は、自動運転車になる可能性が高く、それは社会に大きな利益をもたらす可能性がある。公共の安全の観点からも、これらの利益は明らかだ。2016年、英国の道路では1,810人が死亡し、25,160人が重傷を負った。道路交通事故の約90％は人為的ミスに起因すると考えられており、自動運転車は約1,600人の命を救い、重傷者を約22,500人減らすことができる可能性がある。さらに、大企業にとっての経済的な利点もある。配送会社、ライドシェアアプリ、さらには公共交通事業者でさえ、従業員をスマートロボットに置き換えることで、年間数十億ドルを節約し、労働争議のリスクを排除できる。このような背景を踏まえると、AIが魅力的に映る理由は明らかだ。AI裁判官の客観的な公平性や、ロボット手術支援の精密さについても、同様の主張が成り立つ。
しかし、これらの議論や論争は、私がAIやロボット工学に関心を持つ根本的な理由ではない。ほとんどの人がAIやロボットが社会に突きつける課題に目を向けている一方で、私はロボットが私たちに突きつける課題に注目している。AIやロボットを社会に統合することの人間的な代償は何か。Alexaのような現在のスマートエージェントが持つ基礎的なアルゴリズム知能であっても、知的な機器を使用することで人間の思考や意思決定の仕方が変わることは明らかだ。私たちは情報を記憶しなくなり、データの保存を機器に委ねるようになっている。つまり、これらの外部機器は、私たちが意思決定を行う際に提供される情報をフィルタリングしている。私たちは、利便性と、「より完全な全体像」と思われるものと引き換えに、自律性の一部を手放している。しかし、それは実際には正しくない。
エリ・パリサーが著書「閉じこもるインターネット」で示したように、テクノロジーの重要な役割は、私たちに何を見せないかを選ぶことにある。1987年には、不完全な情報に基づいて意思決定を行っていたかもしれないが、何を保持し、何を捨てるかという問題は、純粋に人間による判断だった。それから30年を経た今、私たちはより多くの情報を手にしているが、その情報の価値を決め、私たちに提示するのは、人間の思考プロセスではなく、アルゴリズム設計である。私たちが高く評価する情報社会は、処理しきれないほど多くの情報を生み出してしまった。私たちは、圧倒的なデータによって生み出された選択の暴政に直面しており、そのデータのフィルタリングをアルゴリズムや機器に委ねてきた。その結果、ビッグデータ分析やアルゴリズムによる規制といった発展がもたらされた。
人間並みの知能を持つ機械が実現する新たな世界が近づくにつれ、一部の論者は2030年までにそれが実現すると考えているが、私たちは、自分たちのアイデンティティや、人間であることの意味について、非常に深い問いを突きつけられることになるだろう。最初の大きな課題は、私たちが新たな対等な存在をどう扱うかである可能性が高い。SFに共通するテーマは、自分たちとは異なる知覚を持つ生命体を、人間が認識し、敬意をもって扱えないことだ。今後20年から30年以内に人間並みの人工知能を実現できたとすれば、その後に私たちが取る行動が、人類としての私たち自身と、創造物との関係の両方を定義することになる。その存在を、対等な存在として敬意をもって扱うのか、それとも道具として扱うのか。
機械の知能が人間レベルに達し、知覚と自己認識を持つようになったとき、私たちはそれを知的生命体とみなさなければならなくなる。
今日、AIやロボット工学について語るとき、私たちは通常、それらを私たちの思い通りに使う道具や機器として定義している。たとえば、自動車の運転や飛行機の操縦、危険な環境での採掘、あるいは日常生活の管理などである。これは、現在の低水準の機械知能の水準では許容されるかもしれない。しかし、機械の知能が人間レベルに達し、知覚と自己認識を持つようになったとき、私たちはそれを知的生命体とみなさなければならなくなる。その後も、それを道具や機器として扱い続けるなら、それは人間をそのように扱うことと何ら変わらない。英国は1833年に人間の奴隷制を廃止したが、30年足らずで、私たちはこの議論に立ち戻ることになるかもしれない。このような議論、あるいはそのような議論が起こり得る可能性そのものが、法律家にとって、AIとロボット工学が、人類と社会を映す鏡を掲げ、私たちが最も基本的な法原則と規範をどのように作り、支えているかを検証する、独自の機会を提供していることを意味する。
